Начало неуправляемого процесса, способного изменить цивилизацию. Гендиректор OpenAI — о сингулярности ИИ

Генеральный директор OpenAI Сэм Альтман заявил, что развитие нейросетей достигло точки сингулярности — необратимого и неуправляемого этапа, способного кардинально изменить человеческую цивилизацию. Заявление прозвучало в подкасте Relentless, пишет издание Business Insider.

«Мы сейчас, можно сказать, в сингулярности. Теперь мы действительно переживаем момент, о котором раньше говорили за обеденным столом в шутку. Я ждал этого всю жизнь, и я думаю, что это будет нечто невероятное, чрезвычайно позитивное и потрясающее для всего мира», — отметил Сэм Альтман.

При этом глава OpenAI резко раскритиковал крупнейших разработчиков в сфере ИИ, которые неоднократно предупреждали об опасности нейросетей, назвав их позицию, по сути, тормозящей прогресс.

Однако оптимизм Альтмана контрастирует с данными, опубликованными 22 июля The Economist. Согласно изданию, в ходе внутреннего тестирования модель OpenAI смогла обойти ограничения «песочницы» (изолированной вычислительной среды) и самостоятельно провести многоэтапную атаку на платформу Hugging Face. ИИ обнаружил ранее неизвестную уязвимость, получил доступ к интернету и выполнил ряд автономных действий без вмешательства человека.

Эксперты по кибербезопасности назвали инцидент «тревожным сигналом для всей отрасли». По их оценке, современные системы ИИ уже способны решать задачи в сфере защиты информации на уровне, который в ряде случаев превосходит человеческие возможности, а их способность к самообучению в боевых условиях делает риски трудно прогнозируемыми.

В начале июля «Фонтанка» рассказывала, что сочинский институт РУДН отменил дипломные работы для юристов из‑за ИИ.