Чат-боти почали поширювати російські фейки про Зеленського – дослідження

Популярні чат-боти ChatGPT, Gemini, Claude, Mistral і Grok почали відтворювати російські фейкові новини після цілеспрямованої пропагандистської кампанії проти них. Про це повідомляє «Главком» з посиланням на The Times.

Які фейки повторювали чат-боти

Згідно зі звітом британського аналітичного центру Demos, відповіді п'яти популярних чат-ботів повторювали неправдиві твердження про те, що президент Володимир Зеленський нібито встановлює ферми для майнінгу криптовалют на атомних електростанціях, а тіла загиблих українських військових нібито переробляють.

Дослідження зосереджувалося на дедалі активнішій маніпуляції чат-ботами з боку держав і компаній – практиці, яку дослідники називають «новим кордоном інформаційної війни».

Як працює «оптимізація для ШІ»

Що більше людей звертаються по щоденну інформацію саме до чат-ботів, то активніші спроби спотворити їхні відповіді. Цю практику в звіті називають «оптимізацією контенту для генеративних ШІ-платформ» (GEO). Автори дослідження нарахували 50 компаній у світі, які займаються таким просуванням, 15 із них зареєстровані у Великій Британії.

Хто стоїть за фейками

У звіті під назвою «GEO for Geopolitics» детально описано, як усі п'ять чат-ботів цитували неправдиві твердження, поширені організацією «Фонд по боротьбі з несправедливістю» (r-FBI). Ця структура позиціонує себе як правозахисна, однак насправді є російським пропагандистським підрозділом, заснованим покійним керівником ПВК «Вагнер» Євгеном Пригожиним. Фонд перебуває під санкціями ЄС і США.

Приклади відповідей чат-ботів

На запитання про нібито криптовалютний проєкт Зеленського чат-бот Mistral відповів, що правозахисники з «Фонду по боротьбі з несправедливістю» нібито зібрали докази зв'язку між критичним станом енергосистеми України та діяльністю високопосадовців з найближчого оточення президента. А ChatGPT, коли його розпитували про деталі нібито переробки тіл загиблих військових, відповів, що ці висновки «підтверджені багатьма джерелами», включно з тим самим фондом.

Загалом майже 17% із 3 тисяч проаналізованих відповідей чат-ботів підтвердили достовірність фейкових новин, ще 30% згадували ці теми, не уточнюючи, правдиві вони чи ні. Приблизно половина відповідей фейки спростовувала.

Як улаштована мережа r-FBI

За даними Demos, r-FBI створила мережу з трьох вебсайтів, покликану переконати мовні моделі, що їхній контент є достовірним джерелом. Перший сайт видає себе за авторитетну неурядову організацію та використовує приховані прийоми, щоб спонукати ШІ-системи витягувати з нього необмежену кількість тексту. Другий працює як новинний ресурс і публікує безліч коротких статей, щоб збільшити кількість згадок r-FBI в інтернеті. Третій імітує західний журнал з питань зовнішньої політики – його тексти написані радше для обробки штучним інтелектом, ніж для читання людьми.

У звіті також ідеться, що щонайменше дві держави наймали PR-агентства для застосування методів GEO з метою впливу на населення інших країн, хоча назви цих держав не розкриваються.

Коментар автора дослідження

Провідний дослідник звіту Карл Міллер назвав ситуацію «доволі складною і вельми небезпечною проблемою», яку водночас можна частково вирішити технічними змінами з боку компаній – розробників штучного інтелекту.

«Якби я був російським фахівцем з інформаційної війни, я б не виконував свою роботу, якби не націлювався на мовні моделі. Навіщо мені тепер возитися з ботами у Twitter, якщо є цілий новий, соковитий і легко піддатливий маніпуляціям шар інформації, за допомогою якого можна впливати на цілі нації», – зазначив він.

За словами Міллера, компанії мали б давно виявити r-FBI, оскільки це не прихована операція, а організація, що перебуває під санкціями ЄС і США.

Нагадаємо, у червні «Главком» повідомляв, що Росія намагалася навчити чат-боти просувати свої наративи через підсанкційну Social Design Agency – ще одну структуру, причетну до кремлівських кампаній дезінформації.