Профессор Дудаков: от «восстания машин» защитит возможность отключить ИИ

Главной защитой от угроз, которые связывают с искусственным интеллектом, остается возможность человека отключить систему. Такое мнение высказал декан факультета прикладной математики и кибернетики, и.о. декана математического факультета, профессор Тверского государственного университета, доктор физико-математических наук Сергей Дудаков.

Аппаратная часть ИИ, по его словам, — это обычный компьютер, только очень мощный: чтобы его выключить, достаточно выдернуть вилку из розетки. Футуристические сценарии «восстания машин» упираются именно в это, а защита строится на том, чтобы система не заблокировала возможность отключения человеком.

Информацию приводит ТАСС. Ранее гендиректор компании Anthropic Дарио Амодеи выразил обеспокоенность перед ООН по поводу рисков, связанных с ИИ, включая потерю контроля над ним и его возможное применение для создания биологического оружия. Он отметил, что технологии развиваются стремительно: за короткий срок ИИ прошел путь от решения простых задач до выполнения сложных вычислений и написания программного кода.

Риски от развития ИИ ученый разделил на несколько групп: обычные ошибки проектирования и реализации программного обеспечения, от которых ИИ как программный продукт не застрахован, эвристический характер многих его методов, ведущий к ошибочным результатам, и ошибки обучения из-за некорректной обработки данных или неточной постановки задач. «Не стоит забывать, что ИИ - это технический инструмент, который помогает решать интеллектуальные задачи. Минимизация угроз происходит аналогично другим техническим системам, включая установление ограничений и систем контроля», - отметил эксперт ТвГУ. Добавил он и о самосознании ИИ: для обсуждения этого вопроса нужно точно определить само понятие, поскольку с математической точки зрения рефлексивность хорошо изучена и реализуема, а этические и юридические аспекты лежат в области философии и психологии. В IT ИИ уже вытесняет специалистов с типовыми техническими навыками, что повышает ценность фундаментального образования, тогда как в медицине он остается лишь консультативным инструментом, а в научном сообществе считают, что использование ИИ следует декларировать, но не указывать его соавтором исследований, поскольку все генерируемое им заложено создателями системы.