Взломать за пять минут? Как ИИ помогает хакерам и на что теперь способен школьник с нейросетью

Раньше, чтобы написать вредоносную программу, нужно было разбираться в программировании. Теперь часть работы можно поручить нейросети. Означает ли это, что любой школьник с ChatGPT способен взломать чужой сервер? «Фонтанка» поговорила с экспертами «Лаборатории Касперского» и компании «Хайвтрейс» о том, как ИИ изменил работу хакеров и почему неприятности с ним могут возникнуть даже у тех, кто ничего взламывать не собирался.

Представим школьника, который никогда не изучал программирование, но однажды решил попробовать себя в роли хакера. В «Лаборатории Касперского» считают, что шансы есть. Но многое зависит от того, какой именно сервер школьник собрался взламывать.

«При помощи ИИ, не владея специальными знаниями, крупную компанию можно взломать, я считаю, только если очень повезёт. А что-то мелкое, если разработчики не разбираются в информационной безопасности и не проводили аудит защищённости, — можно», — рассказал «Фонтанке» старший эксперт Глобального центра исследования и анализа угроз «Лаборатории Касперского» (Kaspersky GReAT) Георгий Кучерин.

Сегодня необязательно самому писать каждую строчку кода. Можно объяснить нейросети обычными словами, что требуется, а она напишет программу, проверит её и при необходимости исправит ошибки.

Кучерин сравнивает происходящее с переходом автомобилей с механической коробкой передач на автоматическую. На «механике» учиться сложнее, а с «автоматом» за руль смогло сесть гораздо больше людей. Примерно то же самое случилось с программированием.

«Человек, который абсолютно не владеет информационными технологиями, сейчас может разрабатывать вредоносные программы и запускать их», — говорит эксперт.

У этого явления даже появилось название — «вайб-хакинг». По аналогии с вайб-кодингом, когда человек создаёт программы, просто объясняя нейросети, хоть бы и по-русски, что от неё хочет.

Правда, руководитель компании «Хайвтрейс» Евгений Кокуйкин замечает, что в профессиональной среде этот термин почти не используют. Да и представлять, будто теперь любой желающий способен взломать всё что угодно, он бы не стал.

«Как правило, за атакой всегда стоит человек. У него под руками мощные инструменты искусственного интеллекта. В принципе, всё как и раньше, только инструменты стали мощнее, и провести атаку он может быстрее», — объясняет Кокуйкин.

Тем не менее атаковать плохо защищённый сервер теперь может даже человек без серьёзной подготовки.

«Существующие инструменты дают непрофессиональным участникам, школьникам-хулиганам возможность, допустим, какой-нибудь сервер местного ЖЭКа атаковать. Потому что, скорее всего, на этом сервере нет обновлений по безопасности, нет средств защиты», — приводит пример Кокуйкин.

Однако у популярных нейросетей вроде ChatGPT, Claude и Gemini есть защитные механизмы, призванные не допускать их использования для незаконных действий. Злоумышленники пытаются обходить эти запреты или используют модели, которые можно скачать и запустить самостоятельно.

Найти ошибку в чужой программе, через которую можно проникнуть в систему, — одна из самых трудоёмких задач при подготовке взлома. На поиски уязвимости могут уходить дни и недели. И здесь у хакеров появился новый помощник.

По словам Кокуйкина, за последний год нейросети совершили заметный скачок. Сначала научились гораздо лучше писать код, а затем и искать ошибки в уже существующих программах.

«Если мы говорим об этапах взлома, то здесь и разведка, и поиск уязвимостей, и перемещение по сети после того, как взлом произведён. Современные агенты ускоряют атаку. Если раньше каждый этап занимал какое-то длительное время, дни или недели, то сейчас это ускоряется», — рассказывает он.

Например, прежде чем атаковать компанию, хакеры могут собрать сведения о её сотрудниках: где работают, чем занимаются, что рассказывают о себе в интернете. Раньше пришлось бы вручную изучать множество сайтов и страниц в социальных сетях. Теперь значительную часть этой работы можно поручить нейросети.

«Злоумышленник занимается более творческой работой — придумывает, как взломать организацию, а всю рутину, все механические действия делегирует искусственному интеллекту и потом проверяет. За счёт этого злоумышленники стали более опасными», — говорит сотрудник «Лаборатории Касперского».

В августе австралийский телеканал ABC рассказал историю мужчины, который пользовался ИИ-агентом OpenClaw. Он попросил программу записать его в спортзал. Агент обнаружил уязвимость в системе бронирования и сумел выполнить поручение, но при помощи вайб-хакинга.

Позже мужчина захотел попасть на другое занятие, но оказался четвёртым в очереди. Тогда он попросил помощника переместить его на первое место. Проверяя, что можно сделать с системой бронирования, нейросеть удалила из списка человека, который стоял первым. В результате её хозяин поднялся на третью строчку.

Мужчина попросил вернуть чужую запись, но выяснилось, что сделать это агент уже не может.

«Здесь злоумышленников вообще-то нет. Здесь нет злого хакера. Но такое поведение можно трактовать как кибератаку. Пользователь со своим агентом атаковали другого пользователя», — объясняет Кокуйкин.

Получается, что для вмешательства в чужую систему даже необязательно ставить перед нейросетью такую задачу. Достаточно дать ИИ-агенту доступ к нужному сервису и попросить добиться результата.

Георгий Кучерин рассказал «Фонтанке» об одном из случаев, которые ему пришлось расследовать. К специалистам «Лаборатории Касперского» обратился московский разработчик, работавший в сфере криптовалют. У мужчины украли 500 тысяч долларов.

Пострадавший был опытным программистом, хорошо разбирался в компьютерной безопасности и знал, как следует защищать свои данные. Тем не менее его взломали, а сам он поначалу даже не понимал, каким образом.

«Как показало моё расследование, этот разработчик по невнимательности скачал вредоносное расширение для разработки в программе, которая позволяет с помощью ИИ писать код», — рассказывает эксперт.

Нейросеть здесь никого самостоятельно не взламывала. Преступники воспользовались популярностью ИИ-инструментов и спрятали вредоносную программу в расширении для разработки. Причём попался человек, который сам прекрасно разбирался в программировании.

Нейросети пригодились и обычным мошенникам. Например, тем, кто рассылает поддельные письма от банков или государственных учреждений.

Раньше злоумышленнику, особенно если он находился за границей, приходилось постараться, чтобы сообщение выглядело правдоподобно. Нужен был грамотный русский язык, правильные формулировки и официальный стиль.

«Если они хотят показаться каким-то госорганом, должно быть сообщение на идеальном русском, выверенное от ошибок, в официально-деловом стиле. Сейчас можно просто сказать: „Напиши мне такое письмо“, и большая языковая модель это напишет», — объясняет Кучерин.

Так что письмо без единой орфографической ошибки вовсе не обязательно настоящее. Эксперт советует проверять отправителя, а при сомнениях самостоятельно связываться с организацией по официальным каналам.

А что насчёт домашних устройств? Роутеров, камер наблюдения, умных телевизоров и роботов-пылесосов? Кучерин напоминает, что взломать их можно было и раньше. Поэтому владельцам по-прежнему стоит следить за настройками безопасности и вовремя устанавливать обновления.

Сложнее приходится небольшим компаниям, которым не по карману собственные подразделения кибербезопасности. Кокуйкин полагает, что многие из них будут пользоваться готовыми ИИ-сервисами крупных разработчиков, рассчитывая на их защищённость. Вот только самостоятельно проверить безопасность таких продуктов они зачастую не смогут.

По словам Кучерина, «Лаборатория Касперского» уже изучала случаи, когда злоумышленники оснащали нейросети дополнительными инструментами и использовали их для атак на организации. Однако говорить, что хакеры благодаря ИИ получили решающее преимущество, пока рано.

«Я бы охарактеризовал эту борьбу как равный бой. Это бесконечная игра в кошки-мышки, которая постоянно продолжается. Нельзя сказать, что с развитием ИИ у защитников как-то ослабли позиции», — говорит он.

Более того, неопытному хакеру нейросеть может сослужить плохую службу. Не понимая, как устроена написанная ИИ вредоносная программа, человек рискует не заметить допущенных ошибок. А по ним, замечает эксперт, правоохранительные органы могут выйти на след самого злоумышленника.

Но проблемы искусственный интеллект способен устроить и вполне законопослушному пользователю. Особенно если речь идёт об ИИ-агентах, которым разрешают самостоятельно отправлять письма, управлять счетами или работать с личными данными.

Кокуйкин советует не бояться таких помощников, но и не доверять им безоговорочно. Прежде чем предоставлять агенту доступ к очередному сервису, стоит выяснить, что он сможет делать без разрешения хозяина.

История с австралийским спортзалом показала, иногда достаточно просто попросить нейросеть записать тебя на тренировку. А проблемы потом придётся решать уже человеку.