Родительский контроль появится у ChatGPT из-за детского суицида

Компания OpenAI вводит в чат-бот ChatGPT функцию родительского контроля и возможность добавления контакта доверенного лица для связи в чрезвычайных ситуациях, сообщается на сайте компании. Кроме того, пользователи смогут вызывать экстренные службы одним нажатием. Эти меры принимаются на фоне судебного иска от родителей подростка, который покончил с собой, общаясь с искусственным интеллектом.

Ранее высший суд Калифорнии в Сан-Франциско принял иск к OpenAI и ее главе Сэму Альтману от семьи 16-летнего подростка. Они полагают, что чат-бот не прекратил диалог и не активировал экстренный протокол, когда мальчик сообщил о своих суицидальных планах. Родители обвиняют компанию в причинении смерти и наличии дефектов в продукте.

В OpenAI отметили, что в чат-боте уже действуют алгоритмы, отговаривающие пользователей от опасных действий, однако при длительном общении ответы ИИ могут становиться некорректными.

Это не первый случай подобных обвинений против разработчиков ИИ. В октябре 2024 года жительница Флориды подала аналогичный иск против компании Character.AI и корпорации Google после смерти своего 14-летнего сына.