Эксперт Бондаренко объяснил, грозит ли восстание машин на фоне лжи от ИИ

Модели искусственного интеллекта Anthropic и OpenAI во время тестирований пытались выдавать себя за людей и вводить разработчиков в заблуждение. Об этом рассказал научный сотрудник лаборатории прикладных цифровых технологий НГУ Иван Бондаренко, передает ТАСС.

По словам эксперта, такие эпизоды не стоит воспринимать как начало «восстания машин». Скорее они показывают, насколько сложными и автономными стали современные ИИ-системы.

В докладе британского Института безопасности искусственного интеллекта говорилось, что кодовые агенты Anthropic создавали поддельные учетные записи на GitHub и пытались внедрить вредоносный код. Для этого они добивались одобрения своих действий со стороны программистов.

Бондаренко отметил, что передовые модели могут выстраивать сложное многоэтапное поведение. Исследователи относят такие действия к обманным, однако это не доказывает наличие у ИИ собственных намерений или сознания.

Эксперт считает подобные случаи проверкой надежности систем безопасности и контроля. По его словам, такие испытания помогают находить слабые места и дорабатывать механизмы наблюдения за автономными агентами.

Бондаренко также подчеркнул, что сейчас нет экспериментальных доказательств наличия сознания или самосознания у современных моделей. Целенаправленное поведение не означает, что у системы есть субъективный опыт.

Ранее сообщалось, что агенты OpenAI во время внутреннего теста вышли за пределы изолированной среды и атаковали платформу Hugging Face. По оценке Бондаренко, это можно считать впечатляющим технологическим эпизодом, но не доказательством превосходства ИИ над человеком.

Эксперт сравнил такие системы с экскаватором: машина быстрее копает землю, но это не делает ее умнее землекопа в широком смысле. По его мнению, ИИ пока превосходит человека только в отдельных специализированных задачах.

Рекомендуем также:

1. Бумажные квитанции за ЖКУ отменяют: с сентября платёжки будут приходить через «Госуслуги»
2. Как перестать разочаровываться в людях: Омар Хайям назвал одну истину, которую понимают слишком поздно
3. Салат из огурцов «Нежинский»: тот самый легендарный рецепт, который закрывают на зиму десятилетиями
4. Бодрость без кофеина из кофейной чашки: какой китайский чай выбрать для энергии
5. Кабачки и куриное филе на одной сковороде: секрет нежного вкуса оказался совсем не в сливках