ШІ уже навчився «зламувати» людей: ізраїльський історик попередив про небезпеку

Сучасні цифрові платформи докорінно змінили механізми поширення інформації та формування суспільної довіри, зануривши людство у стан перманентного стресу. Відомий ізраїльський історик і мислитель Ювал Ной Харарі переконаний, що алгоритми провідних соціальних мереж навчилися філігранно утримувати увагу користувачів, штучно експлуатуючи їхні найпростіші та найгостріші емоційні реакції.

Як наслідок, глобальна політика та соціум опинилися в пастці безперервного психологічного збудження. На думку дослідника, криза лібералізму та парадоксальне руйнування віри в традиційні інституції є прямим наслідком багаторічних цифрових експериментів над свідомістю мільярдів людей. Про це повідомляє «Главком» з посиланням на The Ezra Klein Show.

Під час детальної дискусії з американським журналістом Езрою Кляйном, Ювал Ной Харарі звернув особливу увагу на приховані принципи роботи найбільших технологічних гігантів, серед яких Facebook, X (колишній Twitter) та TikTok. Історик наголосив, що протягом останніх десятиліть інженери цих платформ оптимізували свої коди зовсім не для пошуку об'єктивної правди чи верифікації фактів.

Головним критерієм успіху для штучних систем стала максимізація залучення користувачів. Алгоритми безперервно аналізували поведінку мільярдів людей, щоб відшукати «тригери», які змушують людину якнайдовше гортати стрічку новин та залишати коментарі.

Емпіричним шляхом комп'ютерні системи визначили, що найефективніше з цим завданням справляються чотири первинні емоції – страх, гнів, ненависть та жадібність.

Саме тому штучний інтелект цифрових платформ пріоритетно насичує інформаційний простір контентом, який провокує саме такі деструктивні реакції, штучно створюючи середовище постійної ворожнечі.

Езра Кляйн та Ювал Ной Харарі зійшлися на думці, що агресивне цифрове середовище провокує глибоку кризу ліберальної моделі світу та руйнує звичні суспільні наративи. Проте найнебезпечнішим симптомом сучасності вчений вважає не зникнення феномену довіри як такого, а його кардинальну й непомітну мутацію.

Значна частина населення планети практично повністю втратила віру в класичні, створювані століттями суспільні інститути. Люди демонструють тотальний скептицизм і ворожість до офіційних урядів, традиційних засобів масової інформації, академічної науки та університетів. Водночас ті самі скептики беззастережно й абсолютно анонімно довіряють математичним алгоритмам, які щохвилини персоналізовано формують їхню унікальну стрічку новин.

«Справа не в тому, що довіра повністю випарувалася з їхнього розуму чи світу. Вона перейшла від людей до алгоритмів», – резюмував Харарі.

Аналізуючи біологічну природу людини, Ювал Ной Харарі зауважив, що короткочасні сплески адреналіну, страху чи гніву є природними та навіть корисними еволюційними механізмами, які допомагали нашому виду виживати під час реальної небезпеки. Проте жоден живий організм на планеті на генетичному рівні не пристосований до того, щоб перебувати у стані стресу цілодобово.

За тривалого інформаційного та емоційного перевантаження людська психіка і нервова система починають давати серйозні збої. Організм не встигає відновлюватися, через що він неминуче «виснажується і гине».

Експортуючи цей біологічний закон на масштаби геополітики, Харарі констатував, що сучасна глобальна цивілізація вже підійшла до небезпечної межі внутрішнього вигорання через токсичний інформаційний шум.

«Мені здається, що весь світ перебуває у стані надмірного збудження», – підсумував історик, закликаючи людство до негайного перегляду правил цифрової гігієни та регулювання алгоритмів соцмереж.

Нагадаємо, на Філіппінах готують унікальний експериментальний проєкт, у межах якого невеликим тропічним островом керуватиме рада, що повністю складається зі штучного інтелекту. До складу цього цифрового уряду планують включити прогресивні ШІ-моделі, створені за образом і подобою відомих історичних постатей та мислителів.