Bloomberg: OpenAI хочет замедлить развитие ИИ

Компания OpenAI рассматривает возможность замедлять разработку передовых технологий искусственного интеллекта. Более того, генеральный директор ChatGPT Сэм Альтман выразил мнение, что другим компаниям, занимающимся ИИ, стоит поступить так же. Об этом пишет 11 сентября Bloomberg.

Компания OpenAI заявила, что в последнее время замедлила разработку некоторых моделей и приостановила внутреннее обучение ИИ из-за опасений по поводу безопасности. В июле Альтман говорил, что обсуждал с представителями Белого дома «необходимость» ускорить разработку ИИ.

По данным издания, сотрудники ведущих компаний, занимающихся разработкой искусственного интеллекта, выразили обеспокоенность по поводу возросших рисков, и некоторые призвали к созданию механизма, замедляющего темпы развития ИИ. В конце июля более тысячи сотрудников всех крупнейших компаний, занимающихся искусственным интеллектом, подписали петицию с призывом к созданию механизма для замедления темпов разработки ИИ.

За последние месяцы несколько сотрудников, работающих над вопросами безопасности в сфере ИИ, уволились из крупных лабораторий. Так, во вторник исследователь в области искусственного интеллекта Джейкоб Коксон уволился с работы и обвинил своих бывших работодателей — Anthropic и OpenAI — в «игре с нашими жизнями» из-за стремления к созданию сверхинтеллектуального ИИ. В сообщении в социальных сетях Коксон заявил, что ИИ может «убить нас всех к концу десятилетия». Пост набрал более 150 миллионов просмотров.

Напомним, 22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: ее тестовые ИИ-модели получили открытый доступ к интернету и атаковали инфраструктуру платформы Hugging Face. «Фонтанка» рассказывала об этом.