Євросоюз запровадив обов'язкове маркування ШІ-контенту

З 2 серпня в Європейському Союзі набули чинності нові вимоги Закону про штучний інтелект (AI Act), які зобов'язують позначати контент, створений або змінений за допомогою ШІ – користувачі відтепер повинні розуміти, коли взаємодіють зі штучним інтелектом чи переглядають згенерований ним контент. Про це повідомляє «Главком» з посиланням на Європейську комісію.

Що саме потрібно маркувати

Нові вимоги стосуються зображень, аудіо- й відеоматеріалів, що імітують реальних людей, об'єктів, місць і подій – тобто діпфейків. Позначати доведеться й тексти, які публікують для інформування громадськості на суспільно важливі теми без попередньої редакторської перевірки. Окремо під дію правил підпадають системи штучного інтелекту, що аналізують емоції людини або використовують біометричну категоризацію.

Нагадаємо, з проблемою діпфейків уже стикалися й відомі політики – навесні прем'єрка Італії Джорджа Мелоні стала жертвою діпфейку, створеного штучним інтелектом.

Як позначатимуть контент

Контент, підпадаючи під ці вимоги, має містити чітке візуальне маркування, а також машинозчитувані позначки. Для цього Євросоюз розробив спеціальний набір іконок, які використовуватимуть для ідентифікації ШІ-контенту. Окремо діє вимога прозорості під час взаємодії: користувачів обов'язково мають повідомляти, якщо вони спілкуються не з людиною, а із чат-ботом, ШІ-агентом чи аватаром.

Хто контролюватиме виконання правил

За дотриманням вимог стежитимуть національні органи ринкового нагляду, Європейське управління зі штучного інтелекту (щодо систем під його наглядом), а також Європейський наглядовий орган із захисту даних – якщо розробниками чи користувачами виступають установи ЄС. Єврокомісія також опублікувала настанови для компаній, які пояснюють, як демонструвати відповідність вимогам, зокрема через дотримання кодексу практики.

Які є винятки

Правила не поширюються на системи, що виконують допоміжні функції – наприклад, перевірку орфографії чи базову обробку фотографій. Окремий порядок діє для матеріалів явно художнього, творчого, сатиричного або вигаданого характеру: для них допустимі інші способи інформування, якщо вони не заважають сприйняттю твору.

Штрафи за порушення

Компаніям, які порушать вимоги, загрожують штрафи до €15 млн або 3% річного глобального обороту. Для установ, органів та агентств ЄС санкції менші – до €750 тис. Щодо малих і середніх підприємств штрафи застосовуватимуть з урахуванням пропорційності.

Закон про штучний інтелект набув чинності 1 серпня 2024 року, але його положення впроваджують поетапно – різні вимоги набувають чинності в різні строки.

До слова, вигадані ШІ-зображення вже призводили до курйозних наслідків і в Україні – у Львові працівниця райадміністрації отримала догану за те, що видала згенероване штучним інтелектом фото за звіт про виконану роботу.