Злочинці в Китаї та Росії використовують штучний інтелект як зброю
Вчені, хакери та служби безпеки обійшли обмеження, щоб використовувати ШІ для небезпечної роботи, включаючи можливі дослідження біологічної зброї
Компанія Anthropic оприлюднила майже 150-сторінковий звіт, у якому задокументувала численні факти зловживання її передовими моделями штучного інтелекту Claude, зокрема версіями Sonnet, Opus та Haiku. Про це пише «Главком» із посиланням на Politico.
Попри наявні географічні обмеження та фільтри безпеки, зловмисники з Росії, Китаю, Ірану, Ємену та інших країн використовували VPN, викрадені облікові записи та посередників для доступу до технологій. Здобиччю та інструментом для хакерів стали системи штучного інтелекту, які дозволили їм автоматизувати кібератаки, створювати інструменти цифрового стеження та розробляти перспективні зразки озброєння, які раніше були поза їхніми технічними можливостями.
При цьому в Anthropic наголосили, що найбільш захищена модель Claude Mythos не була скомпрометована, а всі виявлені незаконні сесії були оперативно блоковані з повідомленням відповідних урядових органів.
Згідно з даними компанії, підтримувані Іраном бойовики з Північного Ємену за допомогою Claude намагалися розробити керовану, балістичну та гіперзвукову плануючу ракети, а незалежний російський розробник досліджував створення автономних дронів-камікадзе.
У Малі за допомогою ІІ створювали платформу для тотального перехоплення мобільного зв'язку, тоді як спецслужби Китаю та Ірану аналізували соцмережі для виявлення дисидентів.
Крім того, виявлено щонайменше п'ять випадків, коли іноземні науковці обходили захист для дослідження небезпечних патогенів,зокрема високопатогенного пташиного грипу та небезпечних вірусів, у межах ймовірних військових біологічних програм.
Також у звіті зафіксовано 9 операцій дезінформації та впливу на вибори у різних куточках світу, хоча більшість згенерованого контенту була вчасно заблокована і не мала значного охоплення. Публікація звіту викликала нову хвилю дискусій у Вашингтоні щодо необхідності термінового та жорсткішого державного регулювання безпеки у сфері штучного інтелекту.
Раніше повідомлялося, що користувачам із Росії заблокували доступ до сервісу Cursor – одного з найбільших інструментів для написання коду за допомогою штучного інтелекту (ШІ).
За даними джерел у сфері розробки програмного забезпечення, американський сервіс перестав працювати на території Росії 4 вересня. Офіційних коментарів з цього приводу не було, але за день до блокування до угоди користувача Cursor додали пункт про експортний контроль США.
До слова, Європейська комісія віднесла ChatGPT до категорії дуже великих онлайн-пошукових систем, що передбачає посилений регуляторний нагляд відповідно до Закону ЄС про цифрові послуги (DSA). Нові вимоги сервіс має виконати протягом чотирьох місяців