ИИ создал 1655 фальшивых учёных в научном репозитории Zenodo

В научном репозитории Zenodo, которым управляет CERN, обнаружено более 1655 записей, авторство которых принадлежит вымышленным персонажам. Эти работы сгенерированы нейросетями, ссылаются на несуществующие журналы и получили настоящие идентификаторы DOI.

К такому выводу пришли исследователи Samsung и Варшавского университета в препринте «Призрачная пара: коррелированные LLM-имена и их призраки в веб- и академических публикациях». Когда нейросеть просят придумать эксперта, она регулярно выдаёт одних и тех же людей: например, Елену Васкес и Маркуса Чена. У каждой модели свои предпочтения: Claude чаще называет Елену Амару Окафор, Gemini — Ариса Торна и Лену Петрову, а ChatGPT — Элару Восс и Маркуса Чена.

Фальшивые публикации уже попали в индексы Google Scholar и Semantic Scholar, поскольку DOI автоматически подхватывается агрегаторами. Завести бесплатный аккаунт в Zenodo может любой желающий — в пиковый месяц было зарегистрировано 991 таких записей. На ResearchGate вымышленные имена объединяются в «исследовательские коллективы» с соавторами, созданными разными нейросетями.

Авторы называют это «академический архив тихо заражается»: из-за таких работ исследователи могут цитировать несуществующие источники. Препринт ещё не прошёл рецензирование, и администрация научных платформ публично не отреагировала на находки. По специфическим именам, как отмечают авторы, можно определить, какой именно ИИ сгенерировал текст.