«У нас заканчивается время». Бывший сотрудник Google DeepMind предупредил об угрозе ИИ

«ИИ может убить нас всех». С таким предупреждением выступил бывший исследователь Google DeepMind Билал Чугтаи, занимавшийся безопасностью искусственного интеллекта. По его словам, человечеству может не хватить времени, чтобы предотвратить катастрофический сценарий. Об этом пишет Reuters.

Чугтаи ушёл из Google DeepMind в июле этого года. Там он работал инженером-исследователем и занимался вопросами безопасности AGI — гипотетического искусственного интеллекта, способного решать широкий спектр задач на человеческом уровне или превосходить его, — а также согласованием поведения моделей с человеческими интересами.

«Я искренне верю, что ИИ обладает потенциалом убить нас всех и что у нас, возможно, заканчивается время», — написал Чугтаи.

При этом исследователь не считает катастрофу неизбежной. По его мнению, безопасно развивать ИИ ещё возможно, но для этого разработчикам придётся договориться о темпах развития технологий и прекратить «маниакальную гонку» между крупнейшими компаниями. ИИ, считает он, должен развиваться с такой скоростью, чтобы общество успевало обнаруживать новые угрозы до того, как они приведут к тяжёлым последствиям.

Чугтаи — уже не первый специалист крупнейших ИИ-компаний, который в последние дни публично говорит о риске для человечества. «Фонтанка» рассказывала 11 сентября об исследователе Джейкобе Коксоне, который ушёл из Anthropic и обвинил своих бывших работодателей Anthropic и OpenAI в «игре с нашими жизнями». Он заявил, что люди, создающие передовой ИИ, сами допускают сценарий, при котором технология сможет уничтожить человечество уже к концу десятилетия.

После этого руководитель направления alignment в Anthropic Эван Хубингер заявил, что оценивает вероятность уничтожения человечества искусственным интеллектом в ближайшее десятилетие более чем в десять процентов. Глава Anthropic Дарио Амодеи тем временем призвал замедлить разработку наиболее мощных систем. Его поддержали глава OpenAI Сэм Альтман и Илон Маск.

Но согласны с таким сценарием далеко не все. 15 сентября «Фонтанка» писала, что президент США Дональд Трамп отверг подобные опасения и назвал разговоры о возможном захвате мира искусственным интеллектом очередным преувеличением.