«Может нанести вред пациентам». ВОЗ пока не доверяет нейросетям в вопросах здоровья

Всемирная организация здравоохранения (ВОЗ) призывает проявлять осторожность при использовании искусственного интеллекта (ИИ) для защиты безопасности и здоровья человека. Об этом говорится в заявлении организации, опубликованном 16 мая.

ВОЗ опасается, что поспешное внедрение непроверенных систем, таких как ChatGPT, может привести к ошибкам медработников, нанести вред пациентам, подорвать доверие к ИИ и помешать применению новых технологий во всем мире.

Аргументы ВОЗ приводит следующие:

— ИИ генерирует ответы, которые могут казаться пользователю авторитетными и правдоподобными, но могут оказаться полностью неверными или содержать серьезные ошибки, особенно если речь идет о здоровье;

— ИИ может учиться на основе данных, согласие на использование которых не было получено, и не может защитить конфиденциальную информацию, которую пользователь предоставляет, чтобы получить ответ (например, о здоровье);

— ИИ можно использовать для «убедительной дезинформации» в виде текста, аудио- или видеозаписей, которые аудитории трудно будет отличить от достоверного медицинского контента.

ВОЗ предлагает рассмотреть эти проблемы и определить четкие доказательства пользы ИИ до его широкого использования в медицине и здравоохранении.

Ранее в Кремле заявили, что технологии искусственного интеллекта должны развиваться, но в дальнейшем обязательно потребуется их регулирование.