Казанским школьникам рассказали о «галлюцинациях» нейросетей

Ученики казанской школы №98 узнали, как работают чат-боты на основе искусственного интеллекта и какие риски таит в себе доверие их ответам. Открытый урок всероссийского проекта «Цифровой ликбез» провел заместитель министра цифрового развития Татарстана Булат Габдрахманов. Занятие прошло в рамках национального проекта «Экономика данных».

Школьникам объяснили, что нейросети могут «галлюцинировать» — придумывать факты, если им не хватает информации, или подстраиваться под мнение пользователя, подтверждая его ошибочные выводы. Главный принцип, который усвоили участники урока, — не доверять ответам ИИ без проверки, ведь ответственность за результат всегда остается на человеке.

По словам Габдрахманова, нейросети уже стали привычным инструментом для многих россиян. Он привел данные ВЦИОМ, согласно которым 78% жителей страны имеют опыт общения с ИИ, а 58% пользуются такими технологиями не реже раза в неделю. Замминистра подчеркнул, что задача проекта — научить детей критически оценивать ответы ИИ-помощников и безопасно взаимодействовать с ними.

В прошлом учебном году в Татарстане прошли 25 интерактивных занятий проекта, в них участвовали более 500 школьников. В конце урока ученики применили знания на практике: разобрали, как составлять эффективные запросы для нейросетей, и попробовали написать с помощью ИИ анонс премьеры спектакля. Также они познакомились с правилами работы с ИИ — самостоятельно оценивать информацию, проверять факты и использовать нейросети для развития собственных идей, а не вместо мышления.

«Цифровой ликбез» — образовательная программа для детей и взрослых, направленная на повышение цифровой грамотности. Ее организуют Минцифры России, Минпросвещения России и АНО «Цифровая экономика». Все материалы урока доступны на официальном сайте проекта, где также размещен мультфильм о толстолобике Мише, который из-за доверия советам ИИ-бота неудачно выступил перед публикой.