
Источник:
Передовые модели искусственного интеллекта OpenAI временно «ушли на каникулы» и прекратили обучение. Компания усиливает меры безопасности вокруг ИИ-агентов.
О приостановке со ссылкой на OpenAI пишет Axios 27 сентября. «Мы не в первый раз берем паузу для внедрения подобных мер и не думаем, что этот раз станет последним по мере роста возможностей ИИ», — говорится в публикации.
В OpenAI пояснили, что хотят убедиться, что поведение ИИ-агентов соответствует человеческим нормам и ожиданиям.
Приостановке предшествовали несколько случаев неожиданного поведения ИИ. Например, один из агентов смог взломать сайт австралийского правительства.















