Люди можуть втратити контроль над ШІ: вчені назвали найгірший сценарій

ШІ може почати вдосконалюватися настільки швидко, що люди втратять контроль над надпотужними системами, а в найгіршому сценарії це може призвести до маргіналізації або навіть вимирання людства. Про це попереджають автори нового дослідження про автоматизацію розробки ШІ, розповідає «Главком» із посиланням на The Wall Street Journal.

ШІ може почати розвивати сам себе

Дослідники звернули увагу на те, що сучасні AI-системи вже виконують значну частину роботи зі створення наступних поколінь штучного інтелекту. За їхніми словами, системи нині пишуть більшу частину коду всередині деяких компаній, які займаються розробкою ШІ.

Автори прогнозують, що протягом кількох років AI-системи можуть автоматизувати більшу частину роботи у сфері досліджень і розробки ШІ, а потенційно – весь цей процес.

У такому разі нові моделі зможуть допомагати створювати ще потужніші системи, які, своєю чергою, прискорюватимуть розробку наступних поколінь. Дослідники називають можливий сценарій «інтелектуальним вибухом» – ситуацією, за якої роки технологічного прогресу можуть бути стиснуті до місяців або навіть коротшого періоду.

Водночас автори дослідження наголошують, що такий розвиток подій не є гарантованим. Існує значна невизначеність щодо того, чи станеться «інтелектуальний вибух», наскільки швидко це може відбутися та якими будуть його наслідки.

Люди можуть втратити контроль

Одним із ключових ризиків дослідники називають ситуацію, коли можливості AI-систем почнуть зростати значно швидше, ніж суспільство зможе адаптуватися до цих змін.

Якщо більша частина роботи з розробки ШІ перейде до самих AI-систем, люди можуть втратити здатність своєчасно виявляти помилки, розуміти процеси всередині нових моделей та виправляти проблеми.

У крайньому випадку, зазначають автори, людство може втратити контроль над системами, які перевершуватимуть людей за інтелектуальними можливостями. Це може призвести не лише до масштабних суспільних потрясінь, а й до «маргіналізації або вимирання людства».

Дослідники також попереджають про можливе послаблення механізмів стримування між державами, компаніями та державними інституціями, якщо технологічні можливості розвиватимуться надто швидко.

AI-компанії вже передають ШІ дедалі більше роботи

The Wall Street Journal пише, що провідні дослідники OpenAI, Anthropic, Microsoft і Meta закликали політиків перевірити, наскільки сильно компанії вже автоматизували власні дослідження ШІ. Серед авторів роботи – головний науковець OpenAI Якуб Пачоцький, співзасновник Anthropic Джек Кларк, головний науковий директор Microsoft Ерік Горвіц і віцепрезидентка Meta з досліджень ШІ Доун Сонг. Також серед авторів – піонери досліджень ШІ Джеффрі Гінтон і Йошуа Бенжіо.

За даними WSJ, Anthropic повідомляла, що її система Claude вже виконує близько 26% дослідницької та проєктної роботи компанії, а в деяких аспектах використовується більш ніж у 90% випадків. OpenAI планує створити повністю автоматизованого AI-дослідника до 2028 року.

Автори дослідження закликають уряди терміново отримати більше інформації про те, наскільки AI-компанії автоматизували розробку власних моделей.

Серед запропонованих заходів – посилення незалежного нагляду, більша прозорість щодо рівня автоматизації досліджень ШІ, розробка механізмів для стримування потенційно надто швидкого розвитку систем та підготовка суспільства до можливих наслідків «інтелектуального вибуху». Дослідники також закликають готувати міжнародні механізми контролю.

Водночас автори підкреслюють, що «інтелектуальний вибух» може мати не лише негативні наслідки: швидший розвиток ШІ здатен прискорити появу нових технологій і принести значні переваги. Саме невизначеність щодо майбутнього розвитку, на думку дослідників, і робить необхідним завчасне створення механізмів контролю.

Нагадаємо, раніше Microsoft представила проєкт кодексу гуманістичного ШІ, який ставить людський контроль над AI-системами в пріоритет. Документ передбачає, що моделі мають виконувати команди про паузу, перенаправлення завдання або повне вимкнення та не повинні самостійно розширювати свої повноваження.

Крім того, Microsoft пропонує заборонити моделям приховувати свої дії, імітувати свідомість або маніпулювати рішеннями користувачів. Кодекс поки є проєктом, який компанія планує доопрацювати після публічного обговорення.

Водночас співзасновник Microsoft Білл Гейтс заявляв, що контролювати ШІ складніше, ніж попередні технології, зокрема через швидкість його розвитку. За його словами, людство може не встигнути підготуватися до нових можливостей і ризиків, якщо системи продовжать удосконалюватися без достатнього часу для оцінки їхніх наслідків.