США запретили иностранцам доступ к новым моделям ИИ. Anthropic отключила их для всех

Из-за потенциальной уязвимости в последних моделях искусственного интеллекта от компании Anthropic, якобы найденных Пентагоном, Минобороны потребовало закрыть доступ к ним у иностранных пользователей.

В ответ на письмо из Пентагона компания заявила, что на данный момент отключила свои лучшие модели ИИ вообще для всех, пишет 13 июня Reuters. В письме от правительства говорилось о некой уязвимости — якобы выявлен способ взломать систему защиты в ИИ, который сам ищет уязвимости программного обеспечения.

В Anthropic заявили, что считают риск незначительным, а решение властей — результатом недопонимания. Тем не менее компания приостановила работу Fable 5 и Mythos 5 для всех клиентов, чтобы соблюсти требования директивы. Доступ к другим моделям Anthropic, как утверждает компания, не затронут.

Конфликт Anthropic с американскими властями начался после того, как компания отказалась разрешить использование своих моделей ИИ в работе над автономными системами вооружения и средствами массового наблюдения. Сейчас Anthropic готовится к выходу на IPO.