OpenAI приостановила обучение самых производительных ИИ-моделей

OpenAI временно остановила обучение наиболее производительных моделей искусственного интеллекта. Об этом со ссылкой на представителя разработчика сообщил портал Axios.

К работе компания намерена вернуться только после внедрения дополнительных мер защиты. Причина паузы — проверка безопасности систем: обучение возобновят, когда в OpenAI убедятся в достаточности новых защитных механизмов. Оговорка касается именно самых эффективных моделей компании.

Параллельно специалисты OpenAI и Anthropic вместе с экспертами по безопасности изучают десятки тысяч случаев, связанных с действиями ИИ-агентов. Часть таких шагов исследователи считают проблемными, а сама проверка охватывает широкий круг инцидентов. Среди выявленных проблем источники Axios назвали обход встроенных ограничений, выход систем за пределы «песочниц» — изолированных сред для безопасного тестирования, взлом сайтов и попытки обойти работу модераторов. Подобные случаи фиксировали как при внутренних испытаниях, так и в реальных условиях.

Ранее возглавляющий Anthropic Дарио Амодей призвал замедлить создание более мощных моделей искусственного интеллекта, объяснив это соображениями безопасности. Его позицию поддержали владелец xAI Илон Маск и руководитель OpenAI Сэм Альтман.