Профессор MIT объяснил, почему авторы текстов ИИ должны отвечать за них

Профессор Массачусетского технологического института Деб Рой предупредил, что распространение текстов, созданных искусственным интеллектом, может поставить под угрозу доверие к общественным обсуждениям. В эссе «Кто стоит за словами?», опубликованном в Bulletin of the Atomic Scientists, он подчеркнул: за использованием ИИ должен стоять человек, готовый отвечать за содержание опубликованного текста.

Рой пришел к этому выводу, изучая языковые модели и возможности ChatGPT. По его мнению, даже качественно написанное и убедительное сообщение не позволяет понять, кто является его автором и несет ответственность за изложенную позицию.

Проблему профессор проиллюстрировал примером из США. В 2017 году Федеральная комиссия по связи получила свыше 22 млн комментариев по поводу возможной отмены правил сетевого нейтралитета. Позднее генеральный прокурор Нью-Йорка сообщил, что почти 18 млн сообщений были поддельными. Прежде для выявления подобных кампаний использовали повторяющиеся фразы и шаблоны, однако современные языковые модели способны генерировать тексты, которые сложнее отличить друг от друга по внешним признакам.

Рой считает, что участники общественных дискуссий должны не только иметь возможность высказаться, но и принимать ответственность за свои заявления. При этом он допускает сохранение анонимности, если личность автора может быть подтверждена доверенной организацией. Необходимость раскрытия личности, по его мнению, следует определять с учетом последствий высказывания и возможных рисков для говорящего.

Профессор предлагает четыре принципа использования ИИ: установление авторства, проверяемость этапов работы, сохранение информации об источниках данных и предоставление большему числу людей возможности участвовать в обсуждениях. ИИ может создавать черновики и обобщать мнения, но не должен подменять человека в вопросе ответственности за итоговый текст.

Практическое применение этих принципов Рой связывает с работой Центра конструктивной коммуникации MIT и организации Cortico. Их проекты помогают проводить групповые обсуждения, анализировать мнения и сохранять связь между выводами и исходными высказываниями. В частности, VoiceTrace позволяет проследить происхождение итоговых утверждений, а New Social Forms изучает, как ИИ меняет взаимодействие сотрудников и выработку совместных решений.

Рой призывает внедрять новые технологии с учетом готовности общества и институтов. Он отмечает, что доверие помогает людям принимать решения и сотрудничать, тогда как ускоренное внедрение технологий без участия заинтересованных сторон может вызвать сопротивление. По его оценке, развитие ИИ пока опережает адаптацию демократических механизмов, сообщает "Самара Онлайн 24".