Люди мають контролювати автономні автомобілі

Минулого місяця уперше в історії пішохід загинув в ДТП за участі самокерованого автомобіля. Спортивна машина, що рухалась на автопілоті, здійснила смертельний наїзд на жінку у м. Темпа (Арізона). Пасажир в авто не зміг запобігти аварії.

Хоча такі інциденти ще поки рідкісні, їхня кількість може зрости, адже на дорогах з’являється дедалі більше машин, які їздять без людського втручання. Минулого року кілька країн прийняли закони, які дозволили випробовувати такі автомобілі на дорогах загального користування. Наприклад, Сингапур навіть змінив свої правила дорожнього руху. Транспортне агентство Швеції дозволило рух самокерованих автобусів у північному Стокгольмі, а в Сполучених Штатах Палата представників прийняла закон про самокеровані транспортні засоби (Self Drive Act), який повинен узагальнити закони, які діють в різних штатах. Ще більше лібералізувати американське законодавство має законопроект Autonomous Vehicle Start Act, який поки що завис у Сенаті.

Багато законодавців з ентузіазмом сприймають потенціал самокерованих транспортних засобів. Таксі «на вимогу» можуть зменшити кількість автомобілів у приватних власників і, отже, частково вирішити проблему заторів і шкідливих викидів в атмосферу. Штучний інтелект може набагато ефективніше, ніж людина, контролювати витрати пального. Але найбільша перевага таких авто полягає в тому, що вони потенційно здатні зберігати до 1,25 млн життів щороку, які гинуть в ДТП, адже більшість аварій стається саме через людські помилки.

Тож уряди хочуть якнайшвидше прийняти закони, які лібералізують такі транспортні засоби і прискорять їхню появу на дорогах. Однак вони часто роблять це, звільняючи виробників від певних правил безпеки. Це, зокрема, вимога, щоб людина-оператор завжди була всередині транспортного засобу, який обов’язково має бути обладнаний кермом, гальмами та дзеркалами, і все це повинне працювати, навіть коли машина рухається на автопілоті. Деякі виробники дотримуються цих вимог, адже досі немає жодних гарантій, що автономні транспортні засоби відповідатимуть стандартам безпеки теперішніх автомобілів.

У той же час уряди втратять мільярди доларів податками, якщо менше людей купуватимуть машини. Мільйони таксистів, водіїв вантажівок та автобусів втратять робочі місця. А алгоритми машинного навчання, які здійснюють управління, ще аж ніяк не такі досконалі, щоб спокійно делегувати їм відповідальність за життя пасажирів та пішоходів.

Законодавці мають тісніше працювати з науковцями та розробниками, щоб створити нові правила дорожнього руху для автономних транспортних засобів. Це надзвичайно великий виклик, адже він потребує інтеграції досліджень одразу з багатьох сфер. Ми б хотіли означити лише дві сфери, які потребують термінової уваги, — відповідальність та безпеку.

Як і виробники будь-яких товарів, розробники автономних автомобілів несуть юридичну відповідальність за шкоду, пов’язану з дефектами конструкції, виробництва чи маркетингу. Потенційний ризик дуже високий, адже складні системи, що лежать в основі самокерованих автомобілів, у певних ситуаціях можуть повести себе неочікуваним способом.

В інтересах виробника — мінімізувати кількість позовів проти себе. Ключова стратегій — поінформувати користувачів продукту про те, як він працює. Наприклад, розробники ліків подають інформацію про дозування і побічні дії; виробники електроніки — інструкції та попередження. Утім, як і у випадку зі смартфонами, технології в основі самокерованих транспортних засобів дуже складно пояснити і зрозуміти. Люди воліють купувати прості речі, які дозволяють виконувати складні завдання. Однак що складніша річ, т менше в її користувачів здатності розпізнавати і усувати проблеми в її функціях. Дуже мало водіїв, наприклад, знають, як комп’ютер у їхньому авто контролює параметри двигуна. Тож і пасажир автономного транспортного засобу, скоріше за все, не знатиме, чому програма раптом зробила різкий поворот на зустрічну смугу або чому не випереджує повільну машину попереду.

Ситуація ще більше ускладнюється тим, що алгоритми машинного навчання непередбачувані. Рішення, які вони приймають, визначені попереднім досвідом. Ніхто, навіть розробник алгоритму, не може точно визначити, як такий автомобіль себе поведе за тих чи інших обставин.

На сьогодні немає жодного закону, який би регулював, скільки «тренуватись» потрібно таким авто перш ніж дозволити їм виїхати на трасу. Вже сьогодні різні марки по-різному реагують на критичні ситуації. Одні, наприклад, пробують об’їхати перешкоду, а інші різко активують гальма. Деякі дорожні ситуації, наприклад, перехиляння вантажівки вітром, взагалі поки що не вдається запрограмувати.

Щоб поінформувати пасажирів, чому авто поводиться у той чи інший спосіб, потрібен складний інтерфейс. Сьогоднішні панелі управління містять інформацію про швидкість і витрати пального. Але завтра, мабуть, появляться набагато складніші дисплеї, які повідомлятимуть про «наміри» і логіку поведінки машини. Наприклад, пасажир має право знати, що машина не випереджує повільного транспортного засобу попереду, тому що комп’ютер розраховує, що є тільки 10% шансів, що маневр буде успішним.

На жаль, люди часто ігнорують інформацію, навіть якщо від неї залежить питання життя і смерті. Наприклад, 70% авіапасажирів не читають листівок з інформацією про безпеку в літаку, хоча їх про це прямо просять. Ці листівки містять інформацію про те, як одягнути рятувальну кисневу маску чи відкрити рятувальний шлюз.

Натомість автономні транспортні засоби повинні повідомляти набагато більше даних. Їхні сенсори та алгоритми повинні розуміти поведінку пішоходів, розрізняти різні стилі водіння та пристосовуватися до змін в освітленні. Дослідження, як донести цю інформацію людям доступно та зрозуміло, сьогодні мають ключове значення. Втім, як і достатня компетентність людей, які використовуватимуть ці технології.

Переваги безпеки та ефективності автономних машин полягають передусім у тому, що комп’ютери приймають рішення краще і швидше, ніж люди. Від людини потрібно лише внести пункт призначення, а все решта повинен зробити комп’ютер. Але виробники цілеспрямовано не зробили транспортних засобів повністю автономними. Люди і досі краще, ніж комп’ютери, реагують на непередбачувані обставини. Пілоти можуть перейняти керування в системи fly-by-wire, якщо ключові комп’ютери на борту літака відмовлять.

Суспільство має право не довіряти цілковитій автоматизації. Виробники повинні чітко пояснити, що машина зробить для безпеки пасажирів, якщо не спрацюють системи управління, зламаються камери чи «помруть» внутрішні мапи. Але це нелегко спроектувати. Без камер автомобіль, наприклад, не бачить, куди їде.

На наш погляд, деяка форма людського втручання завжди буде необхідна. Самокеровані автомобілі, скоріше за все, нагадуватимуть літаки, в яких від функцій пілотів так і не відмовились, хоча сучасні системи високоавтоматизовані. Виробники автономних транспортних засобів, загалом, дотримуються цієї вимоги. Під час тестів завжди присутні безпекові водії, хоча розробники і регулятори говорять про повну автоматизацію.

Але залучення людей тягне за собою інші проблеми. Автономні автомобілі завжди потребуватимуть від своїх користувачів певних знань і вмінь, і деяким людям непросто буде ними користуватися, наприклад тим, у кого ослаблені когнітивні функції. Парадокс у тому, що саме ці люди найбільше виграють від таких автомобілів. Це, зокрема, літні люди, які мають підвищений ризик ДТП, оскільки когнітивні здібності з віком слабшають. До речі, одним з головних стимулів інвестицій у технологію в Японії є саме надання більше мобільності літнім людям.

Функції водіння може на себе перебрати віддалений оператор, що вже давно практикують для літаків. Але скільки потрібно таких операторів, щоб рух мереж самокерованих машин був безпечним? У 1991 році занадто завантажений контролер повітряного трафіку здійснив аварію в Лос-Анджелесі, посадивши один літак прямо на інший. А минулого року серед головних причин помилок лікарів в Гонконгу назвали їхню надмірну завантаженість пацієнтами.

У рамках чинного законодавства немає відповіді на ці виклики. Закони в Сполучених Штатах вимагають лише того, щоб користувачі були «поінформованими» про технологію перед тим, як її використовувати. Стандарти ж цієї компетентності навіть не згадуються.

Ми закликаємо законодавців переосмислити підхід до регулювання автономних транспортних засобів і врахувати наступні шість пунктів.

Якщо автомобіль самокерований, це не означає, що він може обійтися без людини-оператора. Автоматизація не витісняє людської праці, а лише змінює її характер.

Користувачі мають бути поінформовані про те, як система працює. Виробники повинні докласти усіх зусиль, щоб ключова для безпеки інформація, включаючи дані з камер, лазерів та радарів, була доступною для користувачів у зрозумілій формі.

Оператори повинні володіти достатнім рівнем компетентності.Сьогодні ще немає консенсусу, якою має бути ця компетентність. Однак її перевірку повинні здійснювати державні органи, що видають посвідчення, й вона має доповнювати посвідчення водія, що вже існують.

Регулярна перевірка компетентності для операторів повинна стати обов’язковою. Необхідно визначити часові інтервали, враховуючи стан когнітивних здібностей людини і технологій, що постійно розвиваються.

Необхідно створити віддалений нагляд над мережами таких авто. Обов’язковою вимогою є визначення максимальної кількості транспортних засобів, якими може безпечно керувати один оператор.

Для віддалених операторів необхідно встановити безпечний режим праці.

Шлях до автономії аж ніяк не є наперед визначеним. Тому на важливі виклики потрібно вже сьогодні шукати відповіді