«Хочу объяснить, что произошло»: Дуров* прокомментировал удаление Telegram из App Store

Компания Apple ненадолго удалила Telegram из своего магазина приложений App Store, потому что один пользователь разместил незаконный контент в общедоступном групповом чате. Такое заявление сделал сооснователь мессенджера Павел Дуров 4 августа.

Telegram пропал из магазина сегодня ночью (по московскому времени) и был недоступен чуть более часа. Официальную причину в Apple не называли.

«Telegram был восстановлен в течение нескольких часов, — написал Дуров в своем канале и добавил: — Хочу объяснить, что произошло, чтобы предупредить других разработчиков приложений и помочь защитить онлайн-сообщества».

По его словам, пользователь, разместивший незаконный контент, был вымогателем. «Тот, кто требует выкуп у владельцев групп в обмен на то, что они не будут нападать на их сообщества, — пояснил Дуров. — Эти вымогатели используют автоматизированные аккаунты для размещения незаконного контента в общедоступных группах, а затем сообщают об этом непосредственно в Apple, пытаясь добиться удаления законных сообществ, владельцы которых отказались им платить».

Дуров отметил, что поскольку Telegram быстро удаляет нелегальный контент из публичных групп с помощью пользовательских отчетов, фильтров искусственного интеллекта, хешей контента и других инструментов модерации, злоумышленнику пришлось прибегнуть к технической уловке — он вставил нелегальный контент, модифицированный с помощью искусственного интеллекта, отредактировав старое сообщение в активном групповом чате. В результате контент был эффективно скрыт от членов группы, что не позволило им увидеть его и оперативно сообщить о нем.

«С практической точки зрения незаконный контент в публичных группах Telegram не является системной проблемой», — продолжил Дуров и заверил, что модерация в мессенджере «эффективна», а тот факт, что злоумышленникам приходится прибегать к ретрансляции, фактически невидимому контенту и другим техническим уловкам, «доказывает это».

Тем не менее, по его мнению, в случившемся есть «два важных урока для разработчиков приложений и онлайн-сообществ». Во-первых, вымогатели нашли способ заставить Apple отреагировать слишком остро. Apple удалила Telegram из App Store, прежде чем связаться с разработчиками. Это создает потенциальный системный риск для каждого мобильного приложения, в котором размещается пользовательский контент. Если приложение, которым пользуются более миллиарда человек, может быть удалено из App Store без предварительного предупреждения, то это может произойти с любым приложением. Во-вторых, тактика, используемая хакерами-вымогателями, развивается, подвергая риску сообщества на разных социальных платформах. Telegram обладает обширным опытом выявления уловок, используемых скоординированными сообществами, и защиты законных сообществ. Платформы могут быть подготовлены к этому не слишком хорошо.

Ранее официальное приложение Telegram уже удаляли из App Store в феврале 2018 года по всему миру из-за доступа пользователей к неприемлемому контенту (нарушающему правила модерации Apple). Приложение вернулось в магазин спустя несколько часов, после того как разработчики обновили систему фильтрации.

* Павел Дуров внесен в перечень террористов и экстремистов Росфинмониторинга.