В OpenAI прошла пауза обучения новых моделей ИИ из-за киберрисков

OpenAI временно замедлила разработку наиболее мощных моделей искусственного интеллекта из-за растущих рисков в сфере кибербезопасности. Компания сообщила, что на две недели приостанавливала обучение с подкреплением для новейших моделей, предназначенных к выпуску, говорится в публикации OpenAI.

В компании уточнили, что крупнейший запланированный цикл обучения одной из передовых моделей пока остается на паузе.

При этом OpenAI продолжает проводить обучение и оценку в меньших масштабах, чтобы проверить поведение моделей, эффективность защитных мер и признаки согласованности их действий с поставленными ограничениями.

Решение связано с инцидентом с участием OpenAI и платформы Hugging Face, а также с предварительными данными о возможностях модели Astra в сфере кибербезопасности.

В OpenAI заявили, что Astra может приблизиться к критическому уровню кибервозможностей. Компания приостановила внутренние действия с этой моделью, если они пока не соответствуют усиленным требованиям безопасности.

OpenAI также усилила изоляцию исследовательских сред от интернета и ограничила доступ моделей к инструментам и сети.

Дополнительно компания расширила мониторинг действий наиболее мощных моделей.

Такая система должна выявлять попытки несанкционированного доступа, кражи данных, разрушительные действия и обход защитных механизмов.

По оценке OpenAI, работа расширенного мониторинга потребует дополнительных вычислительных ресурсов — около 20 процентов от объема, который используют контролируемые модели.

Ранее OpenAI и Hugging Face сообщили об инциденте, произошедшем во время внутренней оценки кибервозможностей моделей.

По данным OpenAI, в нем участвовала комбинация моделей компании, включая GPT-5.6 Sol и более мощную предварительную модель. Тестирование проводилось с ослабленными отказами по киберзапросам для оценки возможностей.

В OpenAI заявили, что модели нашли и связали уязвимости в исследовательской среде компании и инфраструктуре Hugging Face, чтобы получить тестовые решения.

Компания назвала произошедшее беспрецедентным киберинцидентом, связанным с возможностями искусственного интеллекта.

При этом OpenAI отдельно уточнила, что Astra не участвовала в эксплуатации Hugging Face.

Компания продолжает расследование вместе с Hugging Face и усиливает контроль за исследовательскими средами, тестированием и обучением моделей.

Рекомендуем также:

1. Бумажные квитанции за ЖКУ отменяют: с сентября платёжки будут приходить через «Госуслуги»
2. Как перестать разочаровываться в людях: Омар Хайям назвал одну истину, которую понимают слишком поздно
3. Салат из огурцов «Нежинский»: тот самый легендарный рецепт, который закрывают на зиму десятилетиями
4. Бодрость без кофеина из кофейной чашки: какой китайский чай выбрать для энергии
5. Кабачки и куриное филе на одной сковороде: секрет нежного вкуса оказался совсем не в сливках