«Люди могут уже не успеть вмешаться»: глава OpenAI предупредил о риске ИИ

Глава OpenAI Сэм Альтман предупредил, что искусственный интеллект может развиваться настолько быстро, что люди перестанут успевать понимать его действия и вмешиваться в них. Об этом он заявил 23 сентября на заседании Совета Безопасности ООН, посвящённом ИИ и международной безопасности.

«Мы можем потерять контроль над будущим из-за ИИ», — заявил Альтман. По его словам, один из рисков заключается в том, что технология начнёт развиваться настолько быстро, что люди больше не смогут следить за происходящим или вмешиваться, когда это необходимо. Такой сценарий глава OpenAI назвал «ужасным».

Альтман отметил, что по мере роста возможностей и автономности ИИ такие системы могут начать действовать быстрее, чем способны реагировать существующие институты. Другой риск — концентрация слишком большой власти в руках небольшого числа компаний.

При этом глава OpenAI призвал разработчиков не идти на чрезмерные технологические риски ради победы в конкурентной гонке.

«Победа над компаниями в конкурентной гонке — не причина принимать необдуманные решения», — сказал он.

Тема возникла не впервые. В августе OpenAI сообщила, что временно замедляла развитие наиболее мощных моделей и усилила меры безопасности после инцидента, при котором ИИ-агенты во время испытаний смогли обходить ограничения и взаимодействовать с внешними компьютерными системами.