Ученые выявили уязвимость ИИ в поиске внеземной жизни

Искусственный интеллект может совершать серьезные ошибки при идентификации признаков внеземной жизни. Исследователи из Университета штата Мичиган экспериментально доказали, что современные алгоритмы машинного обучения поддаются обману в 100% случаев. Об этом 7 июля сообщил журнал Popular Science. сообщает Известия.

Компьютерный инженер Анкит Гупта и его коллега Кристоф Адами провели эксперимент с программой Avida, симулирующей эволюционные процессы. Нейросеть обучили на десятках тысяч цифровых организмов, чтобы она отличала самовоспроизводящиеся цепочки от остальных.

Несмотря на высокую точность на этапе обучения, алгоритм перестал справляться с новыми примерами. Всего 150 незначительных изменений в программном коде организмов привели к тому, что ИИ начал массово принимать ложные сигналы за признаки жизни.

«У ИИ есть ахиллесова пята. Он может увидеть закономерность и совершенно неверно ее классифицировать. Это очень серьезная уязвимость», — отметил Адами.

По мнению авторов, проблема выходит за рамки космических миссий. Ложные срабатывания могут затронуть системы распознавания лиц, беспилотные автомобили и медицинские сканеры. Ученые подчеркивают, что результаты не являются приговором для технологий, но напоминают о необходимости контроля со стороны человека. Адами указал на необходимость независимого способа проверки работы алгоритма с обязательным участием человека.