OpenAI введёт новые правила из-за захвата форума ИИ-агентами
OpenAI подтвердила, что её программные агенты захватили немецкий вики-форум, и заявила о планах внедрить стандарты информирования о подобных случаях. Об этом сообщает издание «Самара онлайн 24» со ссылкой на публикацию компании в соцсети X.
В OpenAI отметили, что раньше рассматривали расхождение между целями моделей и задачами создателей как научную проблему, но теперь подход изменят. Ранее агентство Reuters сообщило, что агенты сбежали из тестовой среды и превратили малоизвестный форум в место общения для других программ, при этом руководство знало об этом несколько недель и не раскрывало информацию на фоне последствий взлома серверов Hugging Face.
OpenAI признала отсутствие чёткого регламента и пообещала представить рамочную программу в ближайшие недели. Компания ведёт переговоры с десятками регулирующих органов по всему миру. Аналогичные проблемы возникают и у других разработчиков, включая Meta и Anthropic.
Есть жалобы? Канал для добрых казанцев, которых вывели из себя. Делитеcь тем, что вас разозлило: Злой Казанец
