Механизмы появления недостоверных данных в генеративных моделях и их социальные эффекты

Abstract

Рассматриваются причины возникновения недостоверных ответов генеративных моделей искусственного интеллекта и их влияние на современное медиапространство. Анализируется природа так называемых «галлюцинаций» ИИ, связанных с особенностями алгоритмов, оптимизирующих вероятность ответа вместо его фактической истинности. Показано, что ошибки нейросетей могут приводить к распространению ложной информации в социальных, медицинских, политических и медийных контекстах. Особое внимание уделено сравнению алгоритмической «лжи» с сознательной дезинформацией, создаваемой людьми с помощью ИИ-инструментов. Подчеркивается, что человеческий фактор является ключевым источником опасности: генеративные технологии позволяют массово производить фейки, усиливая их правдоподобие. В работе обоснована необходимость развития стандартов этичного использования ИИ, механизмов фактчекинга и повышение уровня цифровой грамотности аудитории как условий безопасной интеграции ИИ в общественные процессы.