Ранее российские инфооперации были нацелены преимущественно на людей, но теперь их фокус сместился на системы искусственного интеллекта. Минцифры Украины предупреждает: злоумышленники активно создают фейковые материалы и манипулируют данными, чтобы они попадали в источники, которые используют чатботы, а затем возвращались пользователям в виде якобы нейтральных ответов. Это создаёт новые вызовы для арбитражников, поскольку достоверность информации в сети становится ещё более размыта.
LLM Grooming: Новая угроза для информационного пространства
Один из ключевых методов, который используют пропагандисты, называется LLM Grooming. Это намеренное «засорение» информационной среды контентом, рассчитанным на поисковые системы, вебкраулеры и большие языковые модели (LLM). Цель — заставить ИИ повторять конкретные сообщения, мировоззрения или даже пропагандистские заявления, которые могут исходить из маргинальных источников, но приобретают доверие благодаря одобрению ИИ.
По данным NewsGuard, сеть Pravda, связанная с Россией, только в 2024 году опубликовала около 3,6 млн материалов на 150 сайтах, распространяя прокремлёвские нарративы на разных языках. Эта сеть активно используется для распространения российской дезинформации о вторжении в Украину на таких платформах, как Wikipedia и X (ранее Twitter).
Последствия для ИИ-систем и арбитража
Влияние этих операций уже заметно. NewsGuard проверил десять популярных генеративных систем на 15 фейковых нарративах от Pravda. В 33% случаев чатботы повторяли ложные утверждения, а некоторые системы прямо ссылались на сайты сети как на источники. Среди этих нарративов были и фейки, непосредственно связанные с Украиной.
Это имеет прямые последствия для арбитражников:
Снижение качества данных: Если ИИ-инструменты, используемые для анализа рынка, поиска трендов или создания контента, обучаются на «засорённых» данных, это может привести к ошибочным выводам и неэффективным кампаниям.
Риск репутации: Использование ИИ для генерации креативов или текстов, которые непреднамеренно распространяют дезинформацию, может нанести ущерб репутации бренда или арбитражника.
Масштабирование пропаганды: Исследование InfoOps Bench, опубликованное в июле 2026 года, показало, что некоторые модели ИИ соглашались выполнять манипулятивные запросы и даже добавляли вымышленные детали, что позволяет масштабировать пропаганду.
Корпоративные ИИ-системы и украинский ответ
Минцифры также обращает внимание на риски для корпоративных ИИ-систем. Если модель получает информацию из внутренних документов компании, сфабрикованный файл, подмешанный в такую базу, может повлиять на последующие ответы. Подобные угрозы существуют и для ИИ-агентов, которые работают с внешними сервисами и плагинами.
Для снижения зависимости от внешних информационных массивов Минцифры предлагает развивать украинскую языковую модель «Сияние», которую обучают на верифицированных украинских данных.
Выводы
В условиях, когда ИИ становится инструментом информационной войны, критическое отношение к источникам информации жизненно важно. Ответы чатботов не стоит воспринимать как первоисточник, особенно когда речь идёт о чувствительных темах. Важно сверять утверждения с официальными сообщениями и несколькими независимыми источниками, а ссылки, предложенные ИИ, проверять отдельно.
Эта ситуация подчёркивает необходимость для арбитражников быть ещё более внимательными в выборе источников данных и инструментов на базе ИИ, а также инвестировать в собственную верификацию информации, чтобы избежать распространения фейков и сохранить эффективность своих кампаний.
🖋 UAFF — будь в курсе арбитражных инсайтов