Калифорния начала расследование против xAI Илона Маска из-за интимных дипфейков

Власти штата Калифорния начали расследование в отношении технологической компании xAI, принадлежащей Илону Маску, после обвинений в распространении сексуализированных изображений женщин и детей, созданных с помощью нейросети Grok. Об этом заявил генеральный прокурор штата Роб Бонта, пишет издание NYT.

«Шквал сообщений о материалах откровенного характера, размещенных в интернете за последние недели без согласия пользователей, вызывает шок. Мой офис официально объявил о начале расследования в отношении xAI, чтобы определить, нарушала ли компания закон и каким образом», — говорится в заявлении Бонты.

По словам генпрокурора, нейросеть Grok генерировала изображения «женщин и детей в обнаженном виде и в откровенных ситуациях». Губернатор Калифорнии Гэвин Ньюсом назвал возможность нейросети раздевать реальных людей, особенно детей, «мерзкой» и заявил, что платформа стала «рассадником потенциальных насильников».

В ответ на скандал xAI ранее ограничила функции редактирования фотографий реальных людей с помощью чат-бота Grok и пообещала блокировать генерацию интимных изображений там, где это запрещено законодательством. Компания подчеркнула, что придерживается «политики нулевой терпимости к сексуальной эксплуатации детей и публикациям откровенных фото без согласия изображенных людей», а также активно удаляет подобный контент со своих платформ.

Ранее власти Малайзии и Индонезии заблокировали работу Grok из-за неоднократного использования чат-бота для создания порнографических и оскорбительных изображений, включая материалы с участием несовершеннолетних.

Премьер-министр Великобритании Кир Стармер пообещал усилить контроль над Grok, а комиссар ЕС по технологическому суверенитету Хенна Вирккунен призвала компанию исправить алгоритмы.

Ранее «Фонтанка» писала, что британский регулятор начал расследование против соцсети X из-за изображений, создаваемых чат-ботом Grok.

Между тем Пентагон заявил, что внедрит чат-бот Grok в свои сети и базы данных.