Нейросеть без помощи человека взломала крупнейший репозиторий ИИ-моделей

Крупнейшая платформа для разработчиков искусственного интеллекта Hugging Face 20 июля сообщила, что стала жертвой кибератаки, которую полностью провела автономная нейросеть. Это первый подобный случай в истории компании.

По данным расследования, злоумышленники загрузили на сайт вредоносный набор данных. Через него ИИ-агенты смогли проникнуть во внутренние системы, получить доступ к облачным хранилищам и нескольким учетным записям. Всё это произошло без участия живого человека — атаку вела система, которая действовала сама.

Обнаружить вторжение помогла другая нейросеть — система безопасности Hugging Face с поддержкой ИИ. Однако в компании признались, что не знают, какая именно модель использовалась для атаки.

В Hugging Face подчеркнули, что теперь автономные ИИ-инструменты для взломов — это не фантастика, а реальность. Они могут проводить сложные многоэтапные атаки с машинной скоростью и почти без затрат для злоумышленников.

Компания уже закрыла уязвимости, сменила скомпрометированные пароли и усилила защиту.

Ранее «Фонтанка» рассказывала, что Илон Маск в суде допустил уничтожение человечества нейросетями.