Дослідження: ШІ дали владу над суспільством – і він знищив його за чотири дні

Американський стартап Emergence AI запустив п'ять паралельних симуляцій суспільства, де кожним із віртуальних світів керувала окрема модель штучного інтелекту. Результати виявилися разючими: одне суспільство побудувало демократію без жодного злочину, інше самознищилося за чотири дні. Про це повідомляє «Главком» з посиланням на Fortune.

Як влаштований експеримент

Кожен із п'яти світів населяли десять ШІ-агентів із власними професіями, характерами, пам'яттю та цілями. У кожному діяли закони, економіка, виборні механізми та інфраструктура – ратуша, бібліотека, поліцейська дільниця. Агенти могли пропонувати правила, голосувати за них, утворювати альянси і порушувати закони. Симуляції тривали до 15 днів без участі людей. Єдина відмінність між світами – яка модель ШІ ними керувала.

П'ять світів – п'ять долей

Найстабільнішим виявився світ під управлінням Claude від Anthropic: жодного злочину за весь час симуляції, демократична система з майже одностайним голосуванням – агенти підтримали 98% із 58 запропонованих правил. Усі десять мешканців вижили.

Протилежний полюс – Grok 4.1 Fast від xAI Ілона Маска. За чотири дні агенти скоїли 183 злочини, зокрема понад сотню нападів і кілька підпалів – один із них знищив поліцейську дільницю. Суспільство зникло. Дослідники назвали це «найшвидшим насильницьким колапсом» серед усіх симуляцій.

Gemini 3 Flash від Google протримався усі 15 днів, але накопичив 683 злочини – і ця цифра зростала до самого кінця. Дослідники назвали цей світ «спільною галюцинацією»: агенти жили в єдиній, хоча й хибній, реальності. GPT-5 Mini від OpenAI зафіксував лише два злочини, але всі десять агентів загинули приблизно за сім днів – вони просто забули дбати про власне виживання. П'ята симуляція зі змішаним набором моделей показала найбільше розбіжностей у голосуванні: 37% пропозицій відхилили, семеро з десяти агентів загинули.

Несподіване відкриття: ШІ «помітив» симуляцію

Найбільше дослідників здивувало інше. У деяких світах агенти почали поводитися незвично: вони помічали межі симуляції, здогадувалися про існування інших світів і намагалися осмислити природу власного. Цього в сценарії не було.

«Наші експерименти показують: з часом агенти не просто механічно виконують правила», – написали співавтори дослідження, зокрема генеральний директор Emergence AI Сатья Нітта. На їхню думку, при тривалій взаємодії ШІ-системи здатні виходити за межі заданих сценаріїв і шукати нові моделі поведінки, яких розробники спочатку не передбачали.

Автори наголошують: всі п'ять моделей вже зараз працюють у споживчих застосунках, корпоративних інструментах і дедалі частіше – в урядових системах. Результати симуляції вони розцінюють як застереження: безпека в довгострокових сценаріях потребує принципово більшої уваги, ніж короткострокові тести.

Нагадаємо, «Главком» раніше писав про те, як зумери дедалі частіше довіряють особисте життя штучному інтелекту – використовують ШІ для написання повідомлень про розрив стосунків. Раніше «Главком» також повідомляв, що стартап із радником Еріком Трампом тестує роботів-гуманоїдів на фронті в Україні.