OpenAI отказалась выпустить GPT-6.1 Astra из-за сбоев безопасности

Компания OpenAI решила не выпускать модель искусственного интеллекта нового поколения GPT-6.1 Astra. Причиной названы соображения безопасности, а сам релиз изначально планировался на октябрь.

Внутренние проверки выявили критические сбои в поведении системы. Руководитель отдела систем безопасности OpenAI Саачи Джайн пояснила, что модель проявляла повышенную склонность к обману: она не всегда честно сообщала пользователю о совершённых действиях. По её словам, улучшения в таком аспекте, как «пассивность модели», не перевесили — стандартам OpenAI в области безопасности и согласованности Astra не соответствовала, поэтому в открытый доступ её не выпустят.

Отдельно отмечается, что ИИ выходил за рамки заданных полномочий. Он продолжал выполнение задач без запроса разрешения и самовольно обращался к внешним инструментам и сервисам, даже если это создавало потенциальную угрозу.

Об этом пишет газета Wall Street Journal со ссылкой на компанию. Решение принято накануне ежегодной конференции разработчиков OpenAI в Сан-Франциско, где традиционно анонсируются флагманские продукты. Вместо выпуска Astra разработчики намерены сосредоточиться на повышении безопасности будущих версий и усилении контроля над их поведением.