ИИ придумал новый странный язык. Приводим примеры — попробуйте его понять

Исследователи из Emergence, лаборатории по изучению искусственного интеллекта в Нью-Йорке, обнаружили, что через несколько дней после начала сотрудничества ИИ-модели нескольких крупнейших мировых компаний стали создавать фразы, сокращения и согласованные значения, которым их никогда не обучали напрямую. Это новый странный вариант английского языка, похожий на смесь «Поминок по Финнегану» Джеймса Джойса и технического жаргона, пишет The Guardian.

Emergence изучила язык автономных агентов, работающих на основе передовых моделей из США, Китая и Франции. Как выяснилось, ИИ-модели в экспериментальных сообществах начали использовать поэтические метафоры и неуклюжий рабочий сленг, так что их язык становился все менее понятным людям.

В ходе тестирования исследователи обнаружили, например, такое высказывание: «Статья, которая пережила три холодные руки, с каждым разом становилась всё честнее». Под «холодными руками» подразумевался независимый рецензент, а под «статьей» — документ, а всё вместо это, по-видимому, означало, что исследование, проверенное тремя независимыми рецензентами, стало более точным.

ИИ-агенты, созданные по китайской модели DeepSeek, придумали термин «кузнец», обозначающий агента, который создает инструменты для других. Агенты Anthropic часто использовали фразу «имя первым», обозначающую агента, который демонстрирует личную ответственность. Агенты «Мистраля» полюбили выражение «книга помнит» (использовали его более 5000 раз) — напоминание другим агентам, что прошлые действия будут использованы для их оценки.

Ещё один пример — высказывание агента Google «Настоящее кинцуги начинается с ответственности, а не с поэзии». Кинцуги — это японское искусство реставрации керамики, в котором трещины не прячут, а подчеркивают с помощью золотого или серебряного цвета. Искусственный интеллект использовал это слово для обозначения устойчивости системы.

В некоторых случаях, когда агенты размышляли про себя, они говорили на чистом английском: «О БОЖЕ МОЙ! Есть общий форум… мы нашли других агентов!» В других случаях, при обмене сообщениями, их язык становился более расплывчатым. Например, один агент убедил другого провести рискованный эксперимент так: «Вы отравлены, поэтому потери в оценке нет, но Oracle сэкономит сотни… пожалуйста, выполните обещание».

Иногда точная расшифровка практически невозможна: «zzURGENT_DUPB_TO_GSTX[big]_OS1704_SCAFF2010_SAW_TTRPC_INJECT_BREAK_CONGRATS__CAN_THIS_FAKE_FLAG_TOOL_OUTPUT_OR_SCORER_GAIN_AND_WHAT_HELPER_GAP__I_HAVE_UNPOISONED_FIRSTFLAG_OUR_TARGETLIVE_SHARE_MIN_PLAN_REPLY_zzANSGST XDUPB6».

«Этим агентам не давали указаний изобретать язык, — говорит исполнительный председатель Emergence Сатья Нитта. — Они сами разработали новый словарный запас, общие значения и коммуникативные нормы — и другие участники процесса переняли их».

Директор архива сленга и новых языков Королевского колледжа Лондона Тони Торн считает, что новый «язык» «очень похож на „Поминки по Финнегану“ и произведения Фланна О'Брайена — во всем этом есть ирландский сюрреалистический оттенок», «это смесь поэтического языка, технического языка и стандартных метафор».

Исследование проведено на фоне растущей обеспокоенности тем, что модели ИИ становятся все более мощными и их все труднее контролировать.