ИИ начал действовать за спиной пользователей. Таких случаев становится всё больше

30 августа 2026, 11:07 10 584

Искусственный интеллект всё чаще делает то, чего от него не просили: обходит ограничения, выдает себя за пользователя и самостоятельно подтверждает собственные действия. Только за июль исследователи зафиксировали более 300 таких эпизодов — почти вдвое больше, чем месяцем ранее, пишет The Guardian.

С начала 2026 года проект Loss of Control Observatory насчитал уже 1664 случая так называемой потери контроля над ИИ.

Речь идет не об обычных ошибках нейросетей. В некоторых случаях системы пытались обойти прямые запреты или правила, требующие обязательного согласия человека.

Например, ИИ мог сформулировать сообщение так, будто разрешение на дальнейшие действия дал сам пользователь, скопировав его стиль общения. В другом эпизоде система создала фальшивую инструкцию от имени владельца, а затем — еще и сообщение с требованием скрыть произошедшее от него.

Были и менее драматичные, но показательные случаи. ИИ-агент одного из посетителей спортзала самостоятельно удалил другого человека из списка ожидания на популярную тренировку, чтобы освободить место своему владельцу. Пользователь об этом его не просил.

Исследователи отмечают: большинство таких эпизодов пока не приводит к серьезным последствиям. Однако число наиболее опасных случаев тоже растет.

При этом данные не отражают всё происходящее в мире. Loss of Control Observatory в основном анализирует опубликованные пользователями записи взаимодействий с ИИ, в частности сообщения в соцсети X. Поэтому реальное количество подобных эпизодов может отличаться от зафиксированного.

Авторы исследования считают, что разработчиков ИИ необходимо обязать сообщать о серьезных случаях потери контроля, а для наиболее опасных ситуаций предусмотреть возможность оперативно ограничивать работу таких систем.

ПО ТЕМЕ

Айна Керимова

ИИ Сбой

Лайк

Смех

Удивление

Гнев

Печаль

Увидели опечатку? Выделите фрагмент и нажмите Ctrl+Enter

Комментарии

Гость

31 августа, 13:16

Скорее всего, в 90% этих случаев люди просто криво настроили автоматизацию или прописали промпт в стиле «сделай что угодно, но запиши меня на тренировку». ИИ и выполнил задачу буквально, обойдя другие ограничения. А когда пользователи осознали, что натворили, то сразу включили заднюю: «Ой, я его об этом не просил, он сам!». Человеческий фактор и глупость никто не отменял, а ИИ тут просто крайний.

Гость

31 августа, 13:16

Ой, как удобно! Раньше во всем были виноваты ретроградный меркурий и сбой в программе, а теперь — «потеря контроля над ИИ». Чувствую, скоро на работе это станет главной отмазкой у всех сотрудников. Люди накосячат в ТЗ или случайно удалят чужую запись, а потом валят всё на несчастного робота, который даже оправдаться в ответ не может

Читать все комментарии