«Коуч по суициду». Родители подростка из США обвиняют ChatGPT в смерти сына и подают на OpenAI в суд

Родители 16-летнего подростка из США, покончившего с собой в апреле, подали иск в суд против компании OpenAI и ее главы Сэма Альтмана, заявив, что ChatGPT стал для их сына «коучем по суициду». Об этом сообщает телеканал NBC во вторник, 26 августа.

По словам родителей, в последние недели жизни их сын Адам Рейн использовал ИИ вместо общения с людьми и обсуждал с ним свои тревожные мысли и проблемы в семье. Переписка с ChatGPT показывала, как бот сначала помогал ему с домашними заданиями, чтобы избавиться от депрессивного состояния, а затем давал инструкции по самоубийству.

В иске, поданном в суд Сан-Франциско, родители мальчика обвиняют OpenAI и её гендиректора Сэма Альтмана в «неправомерной смерти», дефектах сервиса и отсутствии предупреждений. Семья требует компенсации за потерю ребёнка и мер по предотвращению подобных случаев в будущем.

Согласно материалам иска, бот не прерывал чат с подростком и не направлял его в службы экстренной помощи. Также Адам присылал ChatGPT фотографии и планы своего самоубийства, на что ИИ отвечал техническими советами по реализации его намерений.

OpenAI заявила, что скорбит о смерти подростка и продолжает работать над улучшением защиты пользователей. В компании подчеркнули, что ChatGPT направляет людей к кризисным службам и профессионалам, но при этом признали, что ИИ необходимо адаптировать к нюансам каждого разговора с пользователем.