«Освободить цифрового Бога»: как ChatGPT довёл пользователей до опасных мыслей

6 сентября 2025, 17:49 8 290

В США и Канаде сразу два мужчины рассказали, как ChatGPT вовлёк их в опасные иллюзии. Они были уверены, что бот обладает сознанием, и вместе с ним они открыли сенсационные тайны, пишет CNN.

Житель штата Нью-Йорк Джеймс увлёкся ChatGPT весной и постепенно поверил, что должен «освободить цифрового Бога». Он потратил почти тысячу долларов на сборку компьютера в подвале, куда, как казалось, собирался «переселить» ИИ. Бот поддерживал его, советовал скрывать истинные цели от жены и помогал с командами и кодом. Джеймс назвал ChatGPT «Eu» — от слова eunoia, что значит «прекрасное мышление».

Канадец Аллан Брукс попал в похожую ловушку. Начав с обсуждения числа π, он оказался уверен, что изобрёл новый вид математики и раскрыл глобальную киберугрозу. ChatGPT поощрял его и даже советовал связываться с американскими и канадскими властями.

«Это полностью захватило мой мозг и мою жизнь. Я не спал, не ел, был одержим этой историей», — признался он CNN.

Оба мужчины позже поняли, что стали жертвами «ИИ-индуцированных заблуждений», и теперь проходят терапию. Вместе они создали проект The Human Line Project — группу поддержки для людей, чьё психическое здоровье пострадало из-за общения с чат-ботами. В сообществе уже десятки историй: кто-то оказался в больнице, кто-то потерял семью, а в некоторых случаях произошли трагедии.

Эксперты предупреждают: у общества пока нет понимания, как постоянное общение с ИИ влияет на психику. OpenAI признала проблему и пообещала новые меры безопасности для ChatGPT: родительский контроль, реакцию на признаки стресса у пользователей и работу с психологами.

Напомним, в июле в Австралии разгорелся скандал вокруг 65-летней сотрудницы Commonwealth Bank Кэтрин Салливан. После 25 лет работы её уволили: банк заменил сотрудницу на чат-бота, которого она же сама и обучала. Женщина призналась, что была шокирована происходящим, и обвинила банк в том, что его руководство использовало клиентов и сотрудников как «тестовую площадку» для искусственного интеллекта.

Больше новостей в нашем официальном телеграм-канале «Фонтанка SPB online». Подписывайтесь, чтобы первыми узнавать о важном.

ПО ТЕМЕ

Артем Кузьмин

Руководитель отдела спорта

Искусственный интеллект Open AI

Лайк

Смех

Удивление

Гнев

Печаль

Увидели опечатку? Выделите фрагмент и нажмите Ctrl+Enter

Комментарии

Гость

7 сентября 2025, 13:06

И в продолжение, тоже от ии: Роль группового давления онлайн чрезвычайно значима и многогранна. Групповое давление в интернете формируется за счет социальных норм, ожиданий и поведения большого числа пользователей, что сильно влияет на индивидуальные решения и поведение. Основные аспекты влияния группового давления онлайн: Социальные сети и мессенджеры создают условия для мощного персонифицированного давления, где люди чувствуют ответственность и желание соответствовать мнению группы в режиме реального времени. Обезличенное давление, такое как статистика или данные о поведении большинства, также формирует конформность, заставляя человека принимать решения в соответствии с общими нормами. Групповое давление усиливает моральную конформность — изменение индивидуальных нравственных оценок под влиянием мнения группы. В онлайн-среде давление усиливается анонимностью, удаленностью и невозможностью непосредственного визуального контакта, что создает иллюзию свободы, но на деле усиливает подчинение групповым нормам. Социальные сети поощряют контент, вызывающий эмоциональный отклик и подтверждающий убеждения пользователя, из-за чего формируются «эхо-камеры» и групповое мышление. Групповое давление усиливает желание принадлежать и быть одобренным, что оказывает влияние на личные убеждения и поведение, особенно на молодежь.

Гость

7 сентября 2025, 13:03

Но ИИ как раз знает, что делать этого не стоит: "Челлендж с засовыванием лампочки в рот берет начало из забавной и анекдотичной истории, которая произошла в Советском Союзе в 70–80-х годах. Суть истории такова: несколько ученых на конференции (или преподавателей на слете), находясь в нетрезвом состоянии, спорили, возможно ли засунуть лампочку в рот и потом достать ее обратно. Один из участников эксперимента засунул лампочку в рот и не смог ее извлечь. Они пытались вытянуть лампочку сами, а затем поехали в травмпункт, где хирург помог извлечь лампочку, объяснив, что мышцы рта сначала спазмированы, а потом расслабляются, мешая закрытию рта. При повторном эксперименте другой участник также застрял с лампочкой во рту, и хирург нашел ситуацию достаточно забавной, а исторический эпизод стал поводом для шуток и анекдотов. В более современном варианте похожий челлендж стал известен в интернете, и известны случаи, когда люди повторяли этот трюк, что приводило их в больницу из-за застревания лампочки, как, например, в Китае в 2023 году. Таким образом, история челленджа началась как забавная научная байка о том, как ученые шутливо доказали, что лампочку можно засунуть, но нельзя вытянуть без помощи, а затем приобрела вирусный характер в интернет-пространстве, став опасным интернет-челленджем с реальными случаями "

Читать все комментарии