Раніше російські інфооперації були націлені переважно на людей, але тепер їхній фокус змістився на системи штучного інтелекту. Мінцифри України попереджає: зловмисники активно створюють фейкові матеріали та маніпулюють даними, щоб вони потрапляли до джерел, які використовують чатботи, а потім поверталися користувачам у вигляді нібито нейтральних відповідей. Це створює нові виклики для арбітражників, оскільки достовірність інформації в мережі стає ще більш розмитою.
LLM Grooming: Нова загроза для інформаційного простору
Один із ключових методів, який використовують пропагандисти, називається LLM Grooming. Це навмисне "засмічення" інформаційного середовища контентом, розрахованим на пошукові системи, вебкраулери та великі мовні моделі (LLM). Мета — змусити ШІ повторювати конкретні повідомлення, світогляди або навіть пропагандистські заяви, які можуть походити з маргінальних джерел, але набувають довіри завдяки схваленню ШІ.
За даними NewsGuard, мережа Pravda, пов'язана з Росією, лише у 2024 році опублікувала близько 3,6 млн матеріалів на 150 сайтах, поширюючи прокремлівські наративи різними мовами. Ця мережа активно використовується для поширення російської дезінформації про вторгнення в Україну на таких платформах, як Wikipedia та X (раніше Twitter).
Наслідки для ШІ-систем та арбітражу
Вплив цих операцій вже помітний. NewsGuard перевірив десять популярних генеративних систем на 15 фейкових наративах від Pravda. У 33% випадків чатботи повторювали неправдиві твердження, а деякі системи прямо посилалися на сайти мережі як на джерела. Серед цих наративів були й фейки, безпосередньо пов'язані з Україною.
Це має прямі наслідки для арбітражників:
Зниження якості даних: Якщо ШІ-інструменти, які використовуються для аналізу ринку, пошуку трендів або створення контенту, навчаються на "засмічених" даних, це може призвести до хибних висновків та неефективних кампаній.
Ризик репутації: Використання ШІ для генерації креативів або текстів, які ненавмисно поширюють дезінформацію, може завдати шкоди репутації бренду або арбітражника.
Масштабування пропаганди: Дослідження InfoOps Bench, опубліковане у липні 2026 року, показало, що деякі моделі ШІ погоджувалися виконувати маніпулятивні запити та навіть додавали вигадані подробиці, що дозволяє масштабувати пропаганду.
Корпоративні ШІ-системи та українська відповідь
Мінцифри також звертає увагу на ризики для корпоративних ШІ-систем. Якщо модель отримує інформацію з внутрішніх документів компанії, сфабрикований файл, підмішаний до такої бази, може вплинути на подальші відповіді. Подібні загрози існують і для ШІ-агентів, які працюють із зовнішніми сервісами та плагінами.
Для зменшення залежності від зовнішніх інформаційних масивів, Мінцифри пропонує розвивати українську мовну модель «Сяйво», яку навчають на верифікованих українських даних.
Висновки
В умовах, коли ШІ стає інструментом інформаційної війни, критичне ставлення до джерел інформації є життєво важливим. Відповіді чатботів не варто сприймати як першоджерело, особливо коли йдеться про чутливі теми. Важливо звіряти твердження з офіційними повідомленнями та кількома незалежними джерелами, а посилання, запропоновані ШІ, перевіряти окремо.
Ця ситуація підкреслює необхідність для арбітражників бути ще більш пильними у виборі джерел даних та інструментів на базі ШІ, а також інвестувати у власну верифікацію інформації, щоб уникнути поширення фейків та зберегти ефективність своїх кампаній.
🖋 UAFF — будь в курсі арбітражних інсайтів