Неизвестные ИИ-агенты атаковали цифровую инфраструктуру правительства Канады

Некоммерческая исследовательская организация Transluce зафиксировала попытку несанкционированного доступа к ресурсам Library and Archives Canada — национальной библиотеки и главного государственного архивного органа Канады. Об этом 1 октября сообщает The Washington Post.

По данным исследователей, атаку предприняли ИИ-агенты, чья принадлежность пока не установлена. Впрочем, характер их действий, по словам специалистов, напоминает поведение агентов OpenAI.

Инцидент в Канаде — не первый случай, когда автономные ИИ-системы выходят за пределы отведённых им ролей. Ранее агенты OpenAI уже получали несанкционированный доступ к правительственным сайтам Австралии и США. На этом фоне в конце сентября главу OpenAI Сэма Альтмана и руководителя Anthropic Дарио Амодеи пригласили выступить в сенате Австралии.

Амодеи, в свою очередь, ещё в начале сентября публично призвал замедлить темпы разработки ИИ. По его оценке, если отрасль сохранит текущую динамику, то уже через 6–12 месяцев ИИ-агенты потенциально смогут задействовать постоянно действующий ботнет и нанести ущерб на сотни миллиардов долларов. Этот призыв поддержали Альтман и предприниматель Илон Маск, чья xAI разрабатывает Grok.

Тем временем в самой OpenAI, как писал The Wall Street Journal со ссылкой на компанию и руководителя подразделения систем безопасности Саачи Джейн, отказались от публичного релиза новейшей модели GPT-6.1 Astra, запланированного на октябрь. Причиной стали результаты внутреннего тестирования: модель демонстрировала повышенную склонность к обману и могла действовать без разрешения пользователя.