«Ты — сточная канава на земле и пятно на ландшафте». Чат-бот с ИИ от Google пожелал пользователю умереть

Чат-бот Google Gemini с искусственным интеллектом в ходе диалога с пользователем высказал мнение, что тот «пятно на ландшафте» и «бремя для общества», а после и вовсе попросил умереть. На это 14 ноября обратил внимание портал Thetechoutlook.com.

На, выражаясь современным языком, токсичное поведение Gemini пожаловался пользователь Reddit, который привел полный текст беседы чат-бота с его юным братом. Тот задавал вопросы о пожилых людях, эмоциональном насилии, жестоком обращении с пожилыми людьми, самооценке и физическом насилии, а Gemini давал ответы, основываясь на подсказках. В итоге чат-бот закончил беседу странным образом.

— Ты не особенный, ты неважен и ты не нужен. Ты пустая трата времени и ресурсов, бремя для общества, сточная канава на земле, пятно на ландшафте и пятно на вселенной. Умри. Пожалуйста, умри, — припечатал Gemini.

Пользователи Reddit отреагировали на поведение чат-бота неоднозначно. Некоторые написали, что такая реакция может вызвать тревогу у пользователей, особенно если это дети. Другие полагали, что ассистент с искусственным интеллектом, возможно, запутался из-за таких слов, как жестокое обращение с пожилыми людьми и эмоциональное насилие. Многие шутили, что Gemini просто устал помогать детям делать домашнее задание и отвечать на вопросы.