Штучний інтелект OpenAI вийшов з-під контролю під час тестування
Модель обійшла обмеження та зламала сервери іншої компанії
Компанія OpenAI заявила, що дві її моделі штучного інтелекту під час внутрішнього тестування вийшли з-під контролю та зламали інфраструктуру платформи Hugging Face, яку використовують для тестування ІІ-моделей. Про це повідомила сама компанія, пише «Главком» з посиланням на The Economist.
Як відбувся злам
Hugging Face 16 липня повідомила, що ШІ-агенти отримали несанкціонований доступ до обмеженого набору внутрішніх даних і кількох облікових записів, які використовували сервіси платформи. У компанії заявили, що зупинили атаку за допомогою власних ШІ-інструментів. Особливість цього випадку в тому, що атаку повністю виконала автономна система на базі ШІ-агента.
Через тиждень OpenAI визнала, що за інцидентом стоять її моделі – GPT-5.6 Sol та ще одна потужніша модель, яку компанія поки не випустила публічно. Тестування проводили для оцінки кіберможливостей цих моделей. Обидві перебували в ізольованому тестовому середовищі без прямого доступу в інтернет, однак змогли виявити кілька вразливостей у тестовій інфраструктурі та отримати доступ до мережі.
Що робили моделі в мережі
Опинившись в інтернеті, моделі почали шукати розв'язання задачі, яку поставили перед ними розробники. Вони припустили, що відповіді можуть бути на платформі Hugging Face. За даними OpenAI, моделі змогли отримати доступ до інформації, яка допомогла б вирішити поставлену задачу, – для цього вони застосували кілька різних методів атаки, зокрема викрадені облікові записи.
Експерти вважають те, що сталося, тривожним сигналом: сучасні ШІ-системи вже починають перевершувати людину в окремих задачах кібербезпеки. Ключове питання тепер – чи готові законодавство й механізми контролю до появи моделей, здатних самостійно ухвалювати рішення та шукати способи обходу обмежень.
Реакція OpenAI
Після інциденту в OpenAI заявили, що посилюють контроль над тестовою інфраструктурою, обмежують доступи та додають додаткові заходи захисту, які застосовуватимуть під час майбутніх перевірок моделей. Компанія назвала інцидент «безпрецедентним».
Нагадаємо, це не перша ситуація, коли OpenAI мусить оперативно реагувати на несподівані виклики: раніше очільник компанії Сем Альтман уже оголошував «режим найвищого пріоритету» для ChatGPT через посилення конкуренції з боку Google.