Пропагандисти Путіна залучили штучний інтелект до розповсюдження брехні

Маргарита Симоньян анонсувала нову ведучу – «красуню Ніку, яка знає 60 мов і розповідає про різні цікаві факти на Sputnik Дальнее зарубежье».

Насправді, ще Стівен Гокінг попереджав: «Розвиток штучного інтелекту може означати кінець людської раси». Такого роду «розумні системи» дедалі більше перебирають на себе створення та розповсюдження «людиноподібного» контенту – вони можуть замінювати особи на фото та відео, складати тексти статей, створювати пости у соцмережах, маніпулювати зображеннями, клонувати голоси та брати участь у поширенні фейків, які забруднюють інформаційну екосистему.

Штучний інтелект (ШІ) вже на потоці створює фальшивий контент, який все складніше верифікувати. Це дало пропаганді ще більш досконалий спосіб поширювати дезінформацію і пропаганду, створюючи сценарій, в якому практично неможливо відрізнити новини, що заслуговують на довіру, від фальсифікату.

Чи можна з цим боротись? Навесні 2023 року з’явився відкритий лист із закликом негайно призупинити створення «гігантських розумних систем» як «серйозних ризиків для суспільства і людства», який підписали понад тисяча експертів, дослідників та розробників штучного інтелекту. Торік Google заборонив використання свого сервісу Colab для навчання моделей діпфейків, а цього року анонсував новий функціонал додаткового атрибутування зображень у своїй пошуковій системі. Тепер усі знайдені картинки отримають додатковий контекст про час індексування, а ШІ-зображення автоматично отримуватимуть відповідне маркування.

У 2018 році група вчених та дослідників створила звіт про потенційні небезпеки ШІ, в якому на одному з перших місць значилися «соціальні маніпуляції». Сьогодні тодішні побоювання перетворилися на реальність. В інтерв'ю Такеру Карлсону Ілон Маск спрогнозував, що «з часом штучний інтелект залізе в соцмережі... і зможе маніпулювати громадською думкою так, що це обернеться катастрофою». 

І такі маніпуляції вже перейшли межу. Від жовто-сторінкових фейків на кшталт порноакторки Ненсі Ейс до «красуні Ніки». І першою її на державному рівні перейшла Росія, її RT.