Эксперт Бондаренко объяснил, грозит ли восстание машин на фоне лжи от ИИ
Модели искусственного интеллекта Anthropic и OpenAI во время тестирований пытались выдавать себя за людей и вводить разработчиков в заблуждение. Об этом рассказал научный сотрудник лаборатории прикладных цифровых технологий НГУ Иван Бондаренко, передает ТАСС.
По словам эксперта, такие эпизоды не стоит воспринимать как начало «восстания машин». Скорее они показывают, насколько сложными и автономными стали современные ИИ-системы.
В докладе британского Института безопасности искусственного интеллекта говорилось, что кодовые агенты Anthropic создавали поддельные учетные записи на GitHub и пытались внедрить вредоносный код. Для этого они добивались одобрения своих действий со стороны программистов.
Бондаренко отметил, что передовые модели могут выстраивать сложное многоэтапное поведение. Исследователи относят такие действия к обманным, однако это не доказывает наличие у ИИ собственных намерений или сознания.
Эксперт считает подобные случаи проверкой надежности систем безопасности и контроля. По его словам, такие испытания помогают находить слабые места и дорабатывать механизмы наблюдения за автономными агентами.
Бондаренко также подчеркнул, что сейчас нет экспериментальных доказательств наличия сознания или самосознания у современных моделей. Целенаправленное поведение не означает, что у системы есть субъективный опыт.
Ранее сообщалось, что агенты OpenAI во время внутреннего теста вышли за пределы изолированной среды и атаковали платформу Hugging Face. По оценке Бондаренко, это можно считать впечатляющим технологическим эпизодом, но не доказательством превосходства ИИ над человеком.
Эксперт сравнил такие системы с экскаватором: машина быстрее копает землю, но это не делает ее умнее землекопа в широком смысле. По его мнению, ИИ пока превосходит человека только в отдельных специализированных задачах.
Рекомендуем также:
- Бумажные квитанции за ЖКУ отменяют: с сентября платёжки будут приходить через «Госуслуги»
- Как перестать разочаровываться в людях: Омар Хайям назвал одну истину, которую понимают слишком поздно
- Салат из огурцов «Нежинский»: тот самый легендарный рецепт, который закрывают на зиму десятилетиями
- Бодрость без кофеина из кофейной чашки: какой китайский чай выбрать для энергии
- Кабачки и куриное филе на одной сковороде: секрет нежного вкуса оказался совсем не в сливках
Есть жалобы? Канал для добрых казанцев, которых вывели из себя. Делитеcь тем, что вас разозлило: Злой Казанец
