Штучний інтелект ускладнив контроль над сучасними війнами – Foreign Policy

Стрімке впровадження штучного інтелекту у військову справу змінює саму природу збройних конфліктів: їх стає легше розпочати і складніше контролювати. Про це пише «Главком» з посиланням на Foreign Policy.

Освячений дрон під Запоріжжям

Цієї весни, під час Страсного тижня, священник відвідав український підрозділ безпілотників поблизу Запоріжжя. Він помолився разом із бійцями за їхній захист, а потім окропив святою водою ударний дрон «Гара» перед бойовим вильотом. Цей апарат усе ще потребував оператора-людини, однак чимало новітніх моделей, які розробляють провідні армії світу, уже обходяться без нього. Подібні автономні системи – зокрема безпілотні платформи, які самостійно виявляють і супроводжують цілі, – активно тестує й Україна у боротьбі проти російських «шахедів».

Навіщо переглядати правила справедливої війни

За словами аналітиків видання, теорія справедливої війни, яка формувалася століттями, потребує не скасування, а переосмислення з урахуванням реалій сучасних конфліктів. Ідеться передусім про війну, яка дедалі частіше ведеться опосередковано: технології та суперництво великих держав дозволяють тим, хто отримує вигоду від конфлікту, дистанціюватися від його реальних наслідків.

Класична доктрина визначає кілька умов, за яких застосування сили вважається виправданим:

• рішення про вступ у війну має бути відповіддю на акт агресії;
• воно повинне виходити з правильних намірів і ухвалюватися законною владою;
• війна має залишатися крайньою мірою з реальною перспективою завершення справедливим миром;
• сила, що застосовується, має бути співмірною воєнній меті;
• сторони конфлікту зобов'язані уникати прямих ударів по цивільних і вживати додаткових заходів для зниження ризику для мирного населення.

Розрив між рішенням і наслідками

Впровадження штучного інтелекту у військовий потенціал по обидва боки Тихого океану сприяє формуванню такого типу ведення бойових дій, за якого між особами, що ухвалюють рішення, і самим актом ураження цілі з'являється дедалі більше проміжних технологічних ланок. Це підвищує ймовірність застосування сили, навіть попри те, що удари стають точнішими.

Автори аналізу наголошують: така практика ставить під загрозу принцип підзвітності – ключовий елемент, необхідний для життєздатності будь-якого нормативного режиму. І якою б точною не була техніка, машини досі не здатні на милосердя та інші людські якості, які роблять війну бодай трохи гуманнішою і допомагають закласти основи для стійкішого миру.

Що пропонують натомість

Оновлена доктрина справедливої війни, на думку Foreign Policy, повинна розв'язувати проблеми ведення бойових дій із залученням технологічних посередників – відновлювати баланс вигод і витрат та чіткіше пов'язувати конкретні дії з їхніми наслідками, щоб застарілі концепції відповідальності не заважали застосуванню базових принципів.

Один зі шляхів досягти цього – закладати етичні норми ще на етапі розробки, вбудовуючи механізми запобігання шкоді цивільним до введення систем в експлуатацію, а не встановлювати відповідальність заднім числом, коли провину покладають на солдатів, які лише довірилися техніці.

Нагадаємо, раніше експеримент за участю популярних мовних моделей показав, що в умовах змодельованого воєнного конфлікту штучний інтелект схильний обирати ескалацію аж до застосування ядерної зброї, а не шукати шляхи мирного врегулювання.

До слова, начальник штабу оборони Великої Британії сер Річард Найтон, відвідавши прифронтовий штаб під Покровськом, зізнався, що його стривожила «гейміфікація вбивства» – коли кожне ураження цілі оператор дрона фіксує на камеру, отримує за нього ігрові бали, а результати виводяться на загальний рахунок на екрані штабу. Британський генерал також попередив, що розвиток штучного загального інтелекту (AGI) може стати «настільки ж значним проривом, як і атомна бомба».