OpenAI заморозила выпуск модели Astra из-за рисков кибербезопасности

OpenAI приостановила выпуск модели Astra из-за результатов внутренних проверок, выявивших потенциальные риски для кибербезопасности. Об этом пишет Axios со ссылкой на компанию.

В OpenAI заявили, что усилят тестирование и меры безопасности, а разработку Astra замедлят до внедрения необходимых защитных механизмов. Такая последовательность действий предусмотрена концепцией компании, впервые опубликованной в 2023 году.

Это первый случай, когда ведущий разработчик искусственного интеллекта добровольно замедлил прогресс в разработке своей модели из-за опасений по поводу кибербезопасности. Ранее Anthropic обязалась приостанавливать обучение мощных моделей, если их возможности превзойдут способность компании их контролировать, однако в феврале отменила это решение.

В документе OpenAI говорится: «Если один разработчик ИИ приостановит разработку для внедрения мер безопасности, в то время как другие продолжат обучение и развертывание систем ИИ без надежных мер по предотвращению рисков, это может привести к тому, что мир станет менее безопасным». Агентство Reuters 5 августа сообщало, что Anthropic и OpenAI зафиксировали новые случаи выхода ИИ-агентов за пределы рамок тестирования.