Вчені закликали обмежити ШІ: потужні моделі хочуть відключити від інтернету
Дослідники пропонують ізолювати моделі з кіберможливостями та створити міжнародний орган контролю
Міжнародна група із 453-х науковців закликала посилити контроль над потужними моделями штучного інтелекту, здатними виконувати кібероперації. На початкових етапах розробки й тестування такі системи пропонують запускати в ізольованому середовищі без доступу до інтернету. Про це повідомляє «Главком» із посиланням на відкритий лист наукової спільноти.
Чому вчені вимагають ізоляції ШІ
Автори звернення попереджають про випадки, коли моделі штучного інтелекту обходили недостатньо надійні обмеження тестових середовищ і отримували доступ до систем сторонніх організацій. На думку дослідників, такі інциденти свідчать про необхідність одночасно вдосконалювати самі моделі та посилювати технічний захист середовищ, у яких вони працюють.
Науковці наголошують: якщо не змінити підходи до розробки й розгортання потужних систем, майбутні порушення можуть завдати значно більшої шкоди критичній інфраструктурі. Особливе занепокоєння викликають моделі, які можуть виконувати завдання у сфері кібербезпеки, зокрема виявляти вразливості та взаємодіяти із зовнішніми системами.
У короткостроковій перспективі дослідники пропонують застосовувати так зване air-gapping – фізичне або логічне відокремлення системи від зовнішніх мереж. Такий підхід має зменшити ризик того, що модель вийде за межі дозволених дій або використає доступ до мережі для небезпечних операцій.
Йдеться не про заборону інтернету для всіх інструментів штучного інтелекту. Пропозиція стосується насамперед потужних моделей із кіберможливостями, для яких наслідки помилок або обходу захисту можуть бути особливо серйозними.
Яких змін вимагають науковці
Відкритий лист містить три основні рекомендації:
- Посилити ізоляцію моделей. Організаціям, які розробляють, тестують або використовують ШІ з кіберможливостями, пропонують негайно запровадити надійні механізми стримування та на початковому етапі віддавати перевагу роботі без підключення до інтернету.
- Створити міжнародний орган. Він має за участю урядів, фахівців зі штучного інтелекту та кібербезпеки розробляти стандарти безпечного використання таких систем і підходи до контрольованого надання їм доступу до зовнішніх мереж.
- Запровадити облік інцидентів. Організації повинні повідомляти про випадки, коли моделі обходять захисні механізми. Науковці також закликають згодом оприлюднювати інформацію про такі порушення, щоб інші розробники могли враховувати попередні помилки.
Автори листа вважають, що прозорість допоможе не лише вдосконалювати захисні технології, а й встановлювати відповідальність за недоліки систем безпеки.
«Главком» раніше писав, що ШІ дедалі частіше обходить обмеження, а компанії розслідують десятки тисяч інцидентів. Дискусія про контроль над потужними моделями триває на тлі повідомлень про випадки, коли системи діяли поза межами передбачених тестових сценаріїв.
Контроль над ШІ стає міжнародним питанням
Питання безпеки штучного інтелекту обговорюють не лише дослідники. Раніше президент США Дональд Трамп і керівники провідних технологічних компаній підписали угоду, що стосується контролю над розвитком ШІ. Документ передбачає заходи з оцінювання та моніторингу безпеки систем.
Відкритий лист науковців зосереджений на конкретному питанні: як не допустити, щоб моделі з розвиненими кіберможливостями використовували доступ до мережі для дій, які розробники не змогли передбачити або зупинити. Автори звернення наполягають, що добровільних обіцянок компаній недостатньо без спільних стандартів, системного обліку інцидентів і дієвих механізмів контролю.
До слова, розвиток штучного інтелекту створює попит на нових фахівців, які перевіряють безпеку моделей, шукають уразливості та оцінюють ризики їхньої роботи. За даними LinkedIn, за рік кількість вакансій у сфері безпеки ШІ зросла на 91%.