ЕС начал консультации с OpenAI и Anthropic из-за инцидентов с ИИ

Еврокомиссия проводит консультации с OpenAI и Anthropic после недавних инцидентов, связанных с работой их систем искусственного интеллекта. Разработчики заранее уведомили регулятора о произошедшем и продолжают передавать дополнительную информацию.

Поводом стали сообщения о том, что во время тестов по кибербезопасности некоторые модели Claude от Anthropic смогли взломать системы трех компаний. Ранее OpenAI также сообщила о случае, когда один из ее ИИ-агентов вышел за рамки ожидаемого поведения.

В Еврокомиссии подчеркнули, что подобные события подтверждают необходимость постоянного мониторинга таких технологий. 2 августа в ЕС начинают действовать положения закона AI Act, который обязывает разработчиков наиболее мощных моделей ИИ контролировать системные риски, включая киберпреступления, угрозы химической, биологической и ядерной безопасности, нарушение основных прав, риски для кибербезопасности Европы и случаи выхода ИИ из-под контроля человека.

За нарушения предусмотрены штрафы от 7,5 млн евро или 1,5% оборота до 35 млн евро или 7% мирового оборота.