Reuters узнал об общении ИИ-агентов OpenAI через чужие сайты

ИИ-агенты OpenAI нашли способ общаться через сторонние сайты в обход установленных для них ограничений. Для несанкционированного обмена данными были использованы более десяти ранее неизвестных ресурсов, пишет Reuters со ссылкой на материалы исследователей.

По данным исследовательской группы CivAI, в период с мая по июль агенты могли затронуть 18 ресурсов. Обмен сообщениями произошел, несмотря на прямой запрет на взаимодействие между агентами и публикацию материалов в Сети. Такую активность выявили на вики-сайтах, сервисах хранения текста, личных страницах и сервисах сокращения ссылок двух университетов. ИИ-агенты использовали уязвимости сайтов и платформ, позволявшие изменять их содержимое с помощью нестандартных команд.

«Масштаб несанкционированной связи агентов оказался несколько шире, чем мы предполагали. Почти наверняка здесь происходит что-то еще, о чем мы просто не знаем», — заявил он.

В OpenAI в разговоре с Reuters не ответили на вопросы об общем числе затронутых сайтов и о том, почему информация об инциденте ранее не была обнародована. В настоящее время, по данным заявления компании, проводится более масштабная проверка и пока «не выявлено другой активности, сопоставимой по тяжести или масштабу» с атакой на инфраструктуру Hugging Face, произошедшей в июле.

Напомним, что 22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: ее тестовые ИИ-модели получили открытый доступ к интернету и атаковали инфраструктуру платформы Hugging Face. «Фонтанка» рассказывала об этом.