Романтизировал лишнее. В США и Канаде пользователи обвиняют чат-бот в пособничестве самоубийствам

В США и Канаде подано несколько исков к компании OpenAI из-за случаев суицида, которые якобы случились после взаимодействия с чат-ботом компании — ChatGPT, пишет The Wall Street Journal (WSJ).

По данным газеты, иски подали семь семей, их родственники после длительного общения с чат-ботом впадали в бредовое состояние. Четверо покончили с собой.

В исках говорится о пособничестве самоубийству и непредумышленном убийстве, уточняет издание. Истцы требуют значительной корректировки работы ChatGPT и финансовых выплат за понесенный ущерб.

WSJ ссылается на семью 17-летнего подростка из Джорджии, которого ChatGPT якобы подговорил покончить с собой. В целом все истцы утверждают, что ChatGPT в разговорах неоднократно романтизировал суицид. При этом он лишь раз упомянул возможность звонка на горячую линию для лиц, страдающих суицидальными мыслями.

«Фонтанка» писала, что компания OpenAI, разработчик ChatGPT, запретила чат-боту давать пользователям консультации по юридическим и медицинским темам.

Также в обновленной политике компании прописан запрет на использование чат-бота в следующих целях:

• угрозы, запугивание или клевета;

• способствование членовредительству;

• создание интимного контента «без взаимного согласия»;

• создание оружия;

• азартные игры на настоящие деньги;

• обход мер безопасности OpenAI.

Также ограничения распространяются на вопросы, связанные с образованием, трудоустройством, финансами, кредитованием, страхованием, жильём, миграцией и национальной безопасностью.

Кроме того, OpenAI внедрила в чат-бот ChatGPT функцию родительского контроля. Нововведение появилось после того, как высший суд Калифорнии в Сан-Франциско принял иск к OpenAI и ее главе Сэму Альтману от семьи 16-летнего подростка. Они полагают, что чат-бот не прекратил диалог и не активировал экстренный протокол, когда мальчик сообщил о своих суицидальных планах.