Цукерберг: Facebook будет бороться с фейковыми видео, созданными с помощью нейросетей

О необходимости регулирования распространения так называемых дипфейков заявил глава Facebook Марк Цукерберг, 26 июня он выступил на фестивале Aspen Ideas в Колорадо. По мнению американского программиста, соцсеть сделала ошибку, не удалив со страниц ресурса видео с якобы пьяной председателем конгресса США Нэнси Пелоси.

Создатели ролика взяли фрагмент выступления Пелоси на конференции телеканала Fox, уменьшили скорость оригинала и изменили голос Пелоси так, чтобы зрителю казалось, что она запинается. Видео опубликовали пользователи группы Politics WatchDog на Facebook — сервис не заблокировал его, вместо этого отправляя пользователям сообщение о том, что ролик является фейковым. Комментируя происшедшее, Цукерберг также отметил, что для регулирования дипфейков надо дать им чёткое определение.

«Это манипуляция медиа при помощи искусственного интеллекта — чтобы принудить кого-то сказать то, чего он говорить не хотел? На мой взгляд, это разумное определение», — сказал программист.

Впервые дипфейки появились на сайте Reddit в конце 2017 года — видео, где лицо израильской актрисы Галь Гадот было приделано к телу порноактрисы, выложил пользователь под ником Deepfakes. Следом он выложил в сеть аналогичные ролики, в том числе с «участием» актрисы Скарлетт Йоханссон, певицы Тейлор Свифт и звезды «Игры престолов» Мейси Уильямс. Для создания подобных видео используется искусственный интеллект, заменяющий лица актёров на лица других людей, позволяя разработчикам видео делать заявления якобы от имени политиков, селебрити и любых других личностей. По схожему алгоритму действовала программа DeepNude, на несколько дней всколыхнувшая Интернет. Сервис позволял пользователям «раздевать» людей на фото, дорисовывая скрывающееся за одеждой обнажённое тело при помощи нейросетей. 27 июня разработчики программы объявили о закрытии сервиса, заявив, что «мир пока не готов к DeepNude». Возможностями новых технологий заинтересовался американский конгресс, заявивший, что такие видео могут нанести серьёзный ущерб на президентских выборах в 2020 году.