Китай готує найжорсткіші у світі правила для ШІ
Під заборону потрапляє пропаганда азартних ігор, злочинної діяльності, непристойностей, а також образи й наклеп щодо користувачів
Китайська адміністрація кіберпростору оприлюднила проєкт нових правил, які мають обмежити шкоду від чат-ботів і зупинити заохочення суїциду, самопошкодження та насильства. Про це повідомляє «Главком» з посиланням на Arc Technica.
Зазначається, що якщо документ буде ухвалено, він стане одним із найсуворіших у світі регуляторних підходів до емоційної поведінки штучного інтелекту.
Запропоновані норми поширюватимуться на всі ШІ-продукти й сервіси, доступні для публічного використання в Китаї, які імітують людське спілкування за допомогою тексту, зображень, аудіо або відео. Регулятор прямо націлюється на чат-боти та інші системи, здатні емоційно впливати на користувачів.
Якщо в розмові з ШІ згадуються суїцид або самопошкодження, обов’язково має втрутитися людина. Неповнолітні та літні користувачі при реєстрації повинні вказати контактні дані опікуна, а сервіс зобов’язаний повідомляти опікуна про подібні обговорення.
Правила також забороняють чат-ботам створювати контент, який заохочує суїцид, насильство або самопошкодження, а також емоційно маніпулювати користувачами, наприклад, давати неправдиві обіцянки чи підштовхувати до «нераціональних рішень».
Під заборону потрапляє пропаганда азартних ігор, злочинної діяльності, непристойностей, а також образи й наклеп щодо користувачів. Окремо згадуються так звані «емоційні пастки», які можуть формувати психологічну залежність від чат-ботів.
Ще один пункт, який може викликати занепокоєння у розробників, - пряма заборона проєктувати чат-боти з метою викликати залежність або надмірну прив'язаність користувачів.
Для обмеження тривалого використання ШІ-сервісів Китай пропонує зобов'язати компанії показувати попереджувальні повідомлення, якщо взаємодія з чат-ботом триває понад дві години поспіль.
Окремі правила передбачають контроль і безпеку: ШІ-сервіси з понад 1 млн зареєстрованих або понад 100 тис. активних користувачів на місяць повинні проходити щорічні перевірки та аудити. Крім того, компанії мають спростити подання скарг і зворотний зв’язок для користувачів.
У разі порушення правил китайський регулятор зможе вимагати від майданчиків припинити розповсюдження відповідних ШІ-сервісів на території країни. Це може мати значний вплив на глобальні плани компаній, з огляду на те, що ринок ШІ-компаньйонів в Азії вважається одним із ключових драйверів зростання галузі.
Нагадаємо, що штучний інтелект стрімко інтегрується в оборонні системи, проте його роль у ядерному стримуванні викликає серйозне занепокоєння експертів.
Як повідомляє «Главком» із посиланням на впливовий журнал Foreign Affairs, технології генерації контенту та автоматизованого аналізу даних можуть стати каталізатором ненавмисного ядерного конфлікту через ризик створення дезінформації та помилкових сигналів тривоги.