Meta тестировала звонки ИИ-ассистента Muse с участием операторов

Meta (признана экстремистской организацией и запрещена в РФ) провела тест функции ИИ-ассистента Muse, при котором часть телефонных звонков вместо искусственного интеллекта могли обслуживать сотрудники-подрядчики. О тестировании 22 сентября сообщило агентство Reuters, сославшись на внутренние сообщения компании.

Поводом для проверки стали проблемы, с которыми пользователи столкнулись при использовании звонковой функции Muse. Внутри компании возникли опасения за конфиденциальность: подрядчики получали доступ к части информации из разговоров.

Представитель Meta Дэниел Робертс заявил, что компания сотрудничает с продавцами ради совершенствования потенциальной функции звонков и выпустит её только после готовности и при условии надлежащего информирования пользователей. Запуск теста с людьми без предварительного предупреждения в компании признали ошибкой и сообщили о временной приостановке функции, отметив, что участие операторов поднимало эффективность выполнения задач до 95–98%.

Отдельно The New York Times 11 сентября сообщила, что Anthropic в 2026 году предотвратила несколько попыток использовать свои модели искусственного интеллекта для исследований, способных помочь разработке биологического оружия. Генеральный директор OpenAI Сэм Альтман 14 сентября назвал два крайне опасных сценария прогресса ИИ, которых человечеству нужно избежать: потерю контроля над будущим в пользу развивающихся систем и чрезмерную концентрацию безграничной власти в одних руках.