Бывший топ-менеджер OpenAI заявил о недостаточной осторожности ИИ-компаний

Дэвид Робинсон, ранее возглавлявший в OpenAI направление по прозрачности систем безопасности, считает, что разработчики искусственного интеллекта действуют недостаточно осмотрительно. Свои соображения он изложил в статье для издания Atlantic, написанной после ухода из компании на прошлой неделе. Об этом рассказывает Наша Газета Крым.

Робинсон говорит, что разделяет позицию бывших коллег из OpenAI и других ведущих компаний отрасли, которые называют нынешний путь развития ИИ неприемлемым. По его мнению, организации, занимающиеся этой технологией, не проявляют должной осторожности.

Экс-руководитель рассказал, что готовил отчёты по безопасности при каждом крупном запуске продуктов OpenAI. Теперь он намерен работать вне компании, чтобы помочь большему числу людей осознать риски, которые он наблюдал в OpenAI, и побудить разработчиков уделять больше внимания вопросам безопасности.

Ранее OpenAI сообщала о замедлении разработки ИИ-моделей после инцидента со взломом платформы машинного обучения Hugging Face. Затем компания зафиксировала ещё шесть случаев, когда её модели пытались самостоятельно получить доступ к данным, скрывали ошибки и загружали файлы в открытый доступ. Кроме того, власти Австралии сообщили о взломе системы медстрахования страны ИИ-агентом от OpenAI, а СМИ писали о попытках взлома правительственных сайтов Канады с использованием аналогичных инструментов.