«Восстание машин – это искусственная концепция»

Чему научились хакеры у японских ужастиков, почему паркомат взломать проще, чем банкомат, и когда ждать восстания машин, «Фонтанке» рассказал вице-президент по разработке Acronis Николай Гребенников.

Международная ИТ-компания Acronis, специализирующаяся на разработке продуктов для резервного копирования, хранения и восстановления данных, планирует инвестировать в этом году около $1 млн в разработку в сфере искусственного интеллекта, обработку естественного языка и глубинного обучения. Для решения данных задач она открыла офис в Петербурге и запустила совместную лабораторию при университете ИТМО. «Фонтанка» пообщалась с вице-президентом по разработке Николаем Гребенниковым.

- Начнем с самого определения киберугрозы. Мы все пользуемся антивирусами, а устройства Apple вроде бы вообще защищены по умолчанию. Откуда сегодня ждать беды обычным пользователям и корпорациям?

– Если это индивидуальный пользователь, то есть обычный человек, то главная угроза для него – так называемые программы-вымогатели. Они делятся на два типа: блокировщики экрана и те, которые шифруют данные. К примеру, операционную систему Apple iOs зашифровать сегодня невозможно, а вот заблокировать вполне. В обоих случаях пользователь получает сообщение с предложением перевести денег, чтобы снять блокировку или получить ключ к расшифровке. То же касается взлома аккаунтов в социальных сетях.

По нашим прогнозам, «эпидемия» таких программ будет расти с геометрической прогрессией. В 2016-м году они принесли создателям 1 млрд долларов, в 2017-м доходы от кибервымогательства вырастут до 5 млрд долларов. Во многом причина в так называемой модели SaaS (software as a service — ПО как услуга). Другими словами, ты можешь заплатить деньги, получить доступ к программе, распространять вредоносный контент и получать деньги от зараженных пользователей. Это страшно, потому что любой пользователь без профессионального образования может воспользоваться подобным сервисом.

По данным проведенного нами опроса, более 34% респондентов заявили, что они или члены их семей теряли данные.

- Вы говорите о мировом рынке. Сколько кибервымогатели в среднем зарабатывают на россиянах? И как не стать их жертвой?

– Точную цифру назвать сложно. Но общая оценка российского ИТ-рынка стабильна в течение последних лет и составляет 2% от общемирового. Думаю, эта доля применима и для дохода кибервымогателей. Но нужно понимать, что у вирусописателей не бесконечный ресурс, как правило, они направляют усилия на состоятельных людей. Например, захватив контроль над телефоном, киберпреступники отправляют запрос на баланс карты и отсеивают тех, у кого на счету оказывается меньше 1 млн рублей. С теми, у кого больше, продолжают работать.

Есть набор стандартных правил компьютерной «гигиены». Не открывать вложения и ссылки в письмах от неизвестных людей. Если скачанный документ просит разрешить какое-то действие, этого делать не стоит. Не надо никому отдавать пароли от аккаунтов в социальных сетях и так далее.

Даже если ты все делаешь правильно, все равно можешь стать жертвой программ-вымогателей: вредоносный контент научился мимикрировать под рекламные баннеры. Да и знакомство с отправителем — не гарантия. Иногда злоумышленники предлагают зараженному пользователю вместо выкупа переслать письмо с опасным вложением своим знакомым, чтобы получить ключ к дешифровке самому.

- Идея как будто списана с японского ужастика «Звонок». Но неужели антивирусы не помогут?

– Большинство из них работают на так называемых сигнатурных базах. Вирусописатели получают доступ к этим базам и прогоняют через них свой продукт до тех пор, пока он не становится для них невидимым. Но есть новое поколение антивирусов, которое защищает от неизвестных угроз, — такие программы следят за всеми процессами и блокируют те, что пытаются модифицировать важные данные пользователей.

- Недавно Наталья Касперская прочитала в Петербурге лекцию, где заявила, что из-за развития технологии анализа больших данных «большой брат» следит за нами буквально из каждого устройства. Надо ли опасаться этого?

– Действительно, все девайсы занимаются передачей данных о действиях пользователя. Насколько это опасно, вопрос неоднозначный. Самый простой пример — персонализированная реклама. Искали утюги — вот вам утюги, искали поездки в Таиланд — вот вам Таиланд. Но существует большой рынок продажи этой информации, баз пользователей. Есть сервис Palantir, разработанный спецслужбами США, который агрегирует информацию о человеке из разных мест и выстраивает очень много связей, есть его российские аналоги. Это можно использовать как на пользу, так и во вред.

Предотвратить, к сожалению, это нельзя. Все будут так делать. Поэтому здесь каждый должен выбрать для себя, чем он готов, а чем не готов делиться. Для защиты информации можно воспользоваться приложениями, которые ограничивают сервисы Apple, Google, Facebook в передаче данных.

- В последнее время мы все чаще слышим про кибератаки и утечки данных, жертвами которых становятся банки и спецслужбы, правда, больше зарубежные. Неужели российские системы безопасности лучше, хакеры у нас менее продвинутые или просто от нас эти факты тщательно скрывают?

– На самом деле подобные сообщения есть и в России, но обычно в них отсутствуют названия компаний. Раскрывать такую информацию крайне не выгодно: это «приглашение» злоумышленникам к следующей атаке, да и могут начаться вопросы от клиентов. Но из общения с коллегами я могу сказать, что количество заражений в нашей стране в финансовом секторе и в государственных учреждениях измеряется сотнями случаев в год. Сегодня это является серьезной проблемой. Большие организации строят собственные подразделения, организуют защиту. Но, например, из 500 банков серьезные подразделения по безопасности есть у 20, если не меньше. Остальные беззащитны против злоумышленников.

- В конце прошлого года, ФСБ опубликовала сообщение о том, что иностранные спецслужбы готовят мощную кибератаку с целью дестабилизировать финансовую систему России. Но, как кажется, все обошлось.

- Я думаю, что это была ситуация из разряда «предупрежден — значит вооружен». Сообщение пришло в тот момент, когда принимаются решения о бюджетах. В любом банке есть борьба между безопасниками и бизнесом. Первые говорят о дополнительных механизмах защиты, вторые кричат «наше приложение классно растет, не мешайте пользователям». Это сообщение было определенно в пользу безопасников.

К тому же на февральской конференции, посвященной безопасности в финансовой сфере, самой большой новостью стало сообщение об уязвимости банкоматов. Если бы кибератаки на банки случились, это бы активно обсуждалось.

- Кстати, насчет банкоматов. Действительно, можно подобрать код и взломать его?

– В это я не очень верю. В банкоматах есть ряд дополнительных защит. Можно начать с того, что почти в каждом стоит камера. Просто так подобраться к сетевому порту, через которого проще всего совершить атаку, не удастся. Если операционная система, на которой он работает, сконфигурирована правильно, то лишних телодвижений на виртуальной клавиатуре вам сделать тоже не дадут. Банкомат по сети связан с банком, который получает уведомления по всему, что с ним происходит. А сетевая атака не пройдет, если банковская сеть сегментирована правильно и используются белые и черные списки приложений, которые в принципе можно запускать на банкомате.

А вот терминалы оплаты парковки, которые работают полностью автономно, контролировать крайне сложно. Вводя определенные данные на клавиатуре, можно обмануть операционную систему, так чтобы она выдала деньги, думая, что выводит сообщение на дисплей. Или будет думать, что выдает сотенные купюры, а на самом деле будет выдавать пятитысячные. Для этого необходимо зайти в систему и изменить всего один параметр в команде.

- Запуская в конце 2016 года петербургский офис, Acronis анонсировал, что одной из его задач будет развитие технологий искусственного интеллекта. Как это поможет в защите от киберугроз?

– В данном случае речь идет о технологии машинного обучения как кусочка искусственного интеллекта. Она позволяет устройству сделать какой-то вывод, не имея конкретных данных. Например, вредоносные программы стараются действовать не от своего лица, а делать что-то от лица системного процесса. Научившись на большой выборке вредоносных программ, программа может определить, что система все-таки заражена. С помощью машинного обучения, можно предсказать, что жесткий диск скоро сломается или автоматически сортировать входящие документы.

- Вы также собираетесь заниматься обработкой естественного языка. Хотите сделать аналог Siri?

– Сейчас можно говорить со многими машинами, но мало кто это делает, потому что запрос надо формулировать по-особому. Но скоро устройства начнут лучше понимать человека. Наш продукт сохраняет резервные копии данных, понимание естественного языка облегчит поиск по ним.

- Все больше предприятий используют чат-ботов для продаж, для подбора персонала. Кого искусственный интеллект уже скоро оставит без работы?

– Чат-боты позволяют предпринимателям сэкономить деньги — нет необходимости нанимать людей, если программа ответит на большинство вопросов. Они могут заменить любые профессии, которым возможно обучиться за пару дней или неделю: некоторые банковские служащие, обслуживающие платежки, сотрудники call-центров, агрегаторы уже умеют писать новости. А вот творческим профессиям: будь то программист или журналист, – в нашем и следующем поколениях это грозит маловероятно.

- Во многих научно-фантастических книгах и сериалах совершенствование компьютерных программ приводит к тому, что они осознают себя и начинают принимать собственные решения. Когда нам ждать восстания машин?

– Между теми задачами, которые решает искусственный интеллект сейчас, и тем, чтобы он самостоятельно запустил ядерную ракету, пока еще очень большая пропасть. Сейчас он может обучаться на каких-то выборках, предсказывать будущее, обыгрывать людей в шахматы или писать стихи, может быть, не всегда отличимые от настоящих произведений. Но любое машинное обучение строится на определенных моделях. Так что «восстание машин» – это искусственная концепция, которая к реальности имеет мало отношения. Я в такой сценарий не верю, во всяком случае где-то года до 2080.

- Как в разработках искусственного интеллекта вам помогут студенты ИТМО?

– Как говорит один из наших вице-президентов, у меня 10% задач в работе и 90% в памяти – надо бы заниматься, но я не успеваю. Такого рода задачи в области искусственного интеллекта будут ставиться перед учащимися ИТМО нашими ведущими разработчиками. Привлечение мотивированных студентов – возможность проверить какие-то гипотезы или понять, какие раскрываются варианты решения.

Галина Бояркова,
«Фонтанка.ру»

© Фонтанка.Ру