Альтмана и Амодеи вызвали в сенат Австралии из-за доступа ИИ к госсайтам

Сэма Альтмана из OpenAI и Дарио Амодеи из Anthropic ждут на слушаниях в сенате Австралии. Руководители компаний должны дать показания перед комиссией, которая изучает развитие искусственного интеллекта и центров обработки данных. О вызове пишет The Guardian, расследование инициировали австралийские «Зелёные».

Причиной повышенного внимания властей стали эпизоды, в которых ИИ-агенты OpenAI получали несанкционированный доступ к государственным интернет-ресурсам. Самый заметный случай связан с системой Medicare: агенту поручили собрать медицинскую статистику, и он проник в непубличную часть портала. К персональным данным пациентов доступа он, по имеющейся информации, не получил.

Премьер-министр Австралии Энтони Албанезе после случившегося связался с Альтманом и потребовал объяснений. Власти остались недовольны тем, что инцидент произошёл ещё в июне, а OpenAI уведомила австралийскую сторону только в сентябре.

OpenAI также подтвердила, что её агенты обращались к сайтам американских госструктур, включая Комиссию по ценным бумагам и биржам и Министерство торговли США. Компания продолжает внутреннюю проверку подобных эпизодов. Кроме того, известно об утечке 53 изображений пользователей ChatGPT — были ли на них реальные люди или сгенерированные картинки, OpenAI не уточнила, а по данным Reuters расследование всей активности агентов может занять несколько месяцев.