ШІ отримує більше свободи: США та Росія змінили правила застосування зброї
Human Rights Watch: слабкі правила щодо ШІ-зброї означають більше цивільних жертв і менше відповідальності
Делегації США та Росії в останній день перемовин ООН прибрали з проєкту договору про летальну автономну зброю низку норм, зокрема вимогу людського контролю за цілями, які визначає штучний інтелект. Про це повідомляє «Главком» з посиланням на The Washington Post.
Що прибрали з тексту угоди
На початку вересня в Женеві сотні дипломатів працювали над договором, який мав стати першою міжнародною угодою щодо застосування летальної автономної зброї зі штучним інтелектом. Однак в останній день перемовин, за словами трьох джерел видання, обізнаних із перебігом закритих засідань, американська та російська делегації протягом близько 15 годин домоглися вилучення низки положень.
Зі спільного проєкту зникли вимоги, щоб системи ШІ діяли «передбачувано» та «надійно», а також пункт про обов'язкове врахування етичних міркувань під час застосування такої зброї. Вилучили й норму, яка зобов'язувала людину перевіряти воєнні цілі, визначені штучним інтелектом, перед завданням удару.
Засідання проходило без камер ООН і без спостерігачів від громадянського суспільства. За даними видання, делегації Вашингтона й Москви залучили приблизно по 10 юристів кожна – удвічі більше, ніж мали інші країни, – і вносили правки настільки швидко, що менші делегації не встигали реагувати. За словами одного з джерел, це була «смерть від тисячі паперових порізів».
Реакція правозахисників
Заступниця директора відділу озброєнь Human Rights Watch Веріті Койл зазначила, що слабкі правила щодо автономної зброї можуть мати відчутні наслідки: «Це може означати, що машини можуть ухвалювати рішення про життя і смерть без контролю людини», – застерегла вона, додавши, що практичний ефект – більше жертв серед цивільних і менше відповідальності. За її словами, американську делегацію очолюють дипломати Державного департаменту, представники Пентагону та юристи, і вона добре підготовлена відстоювати військову автономію США.
Виконавча директорка коаліції Stop Killer Robots Ніколь ван Рооєн зауважила, що США та Росія не підтримують юридично обов'язкові правила й мають непропорційний вплив на перебіг перемовин. А радник з питань роззброєння юридичної служби Міжнародного комітету Червоного Хреста Річард Леннейн наголосив, що глобальні договори здатні реально впливати на застосування зброї – так само, як це вже відбулося з хімічною і біологічною зброєю та протипіхотними мінами.
Штучний інтелект уже воює
Перемовини відбуваються на тлі гострої публічної дискусії про ризики передового штучного інтелекту: цього тижня очільники компаній OpenAI та Anthropic закликали Раду Безпеки ООН до міжнародної співпраці у регулюванні технології.
Застосування ШІ в бойових діях уже давно вийшло за межі теорії: за даними видання, американські військові використали чат-бота Anthropic для визначення близько тисячі цілей у перші 24 години війни з Іраном, а Ізраїль активно застосовує штучний інтелект у Газі. Тим часом компанії-розробники самі визнавали, що їхні боти намагалися зламувати сервери сторонніх організацій, а зловмисники з Ємену та Ірану використовували чат-ботів для розробки керованої зброї. Схожі тенденції дедалі помітніші й на фронті в Україні, де обидві сторони дедалі активніше покладаються на автономні системи ураження цілей.
Наразі перемовини щодо автономної зброї мають рекомендаційний характер, але можуть відкрити шлях до юридично обов'язкового договору, якщо його схвалять держави-члени. У листопаді делегації знову зберуться в Женеві, щоб вирішити, чи переросте формат у офіційний мандат або договір.
Нагадаємо, президент США Дональд Трамп під час виступу на Генеральній Асамблеї ООН заявив, що Вашингтон відкидає спроби створити «глобалістську схему контролю» над штучним інтелектом, який запропонував називати «суперінтелектом», і наголосив на намірі зберегти технологічне лідерство США. До слова, президент Володимир Зеленський раніше наголошував, що війну Росії проти України необхідно завершити до того, як рішення на полі бою почне ухвалювати штучний інтелект, а не тільки люди.
Паралельно Пентагон переглядає власну директиву щодо автономної зброї 2023 року: у червні Трамп доручив оновити її протягом 90 днів, однак станом на кінець вересня новий варіант документа не оприлюднено.