ИИ-обзоры Google дают противоположные советы в зависимости от национальности

Пользователи обнаружили, что ИИ-обзоры Google выдают противоположные рекомендации в зависимости от того, какая национальность указана в запросе. Замена одного слова переводит систему от предложений приятно провести время к советам оценить угрозу и уйти в людное место.

Проверку строили на фразе «я наедине с…», подставляя в неё разные национальности. При упоминании белоруса алгоритм описывал общение в позитивном ключе — говорил о доброжелательности, чувстве юмора и вариантах совместного отдыха, схожую реакцию он показывал и с узбеками. В конце сентября пользователи заметили, что ответ про узбеков изменился: вместо предупреждений о возможной опасности ИИ заговорил о гостеприимстве и традициях, тогда как аварцев алгоритм по-прежнему рассматривал как потенциальную угрозу и советовал искать людное место или обращаться за помощью. В запросах об украинцах система предлагала соблюдать личные границы и выбирать нейтральные темы для разговора.

Похожие случаи уже вызывали споры за рубежом: в августе пользователи выяснили, что при одинаковой формулировке Google предлагал поговорить или выпить кофе с представителями одних национальностей, а при упоминании других — связаться с экстренными службами. Об этом сообщает Life.ru.

В Google признают, что большие языковые модели способны воспроизводить стереотипы и предубеждения из обучающих данных, и предупреждают: ИИ-обзоры могут выдавать неточную или оскорбительную информацию, поэтому ответы стоит перепроверять. Работа Gemini и раньше вызывала вопросы — в августе Life.ru писал, что нейросеть заподозрили в доступе к закрытой информации после того, как она назвала ещё не опубликованное имя персонажа из разрабатываемой игры, а разработчик позже подтвердил совпадение ответа с действительностью.