Компанія OpenAI призупинила навчання нових моделей ШІ
Двотижневу паузу команда витратить на зміцнення дослідницької інфраструктури та додаткове тестування
OpenAI на два тижні призупинила навчання нових моделей штучного інтелекту, щоб зосередитися на заходах безпеки. Про це йдеться в пресрелізі компанії, передає «Главком».
Розробник побоюється, що майбутня модель Astra зможе здійснювати небезпечні кібератаки. Компанія пояснила це рішення необхідністю випереджати технологічний прогрес стандартами моніторингу. Двотижневу паузу команда витратить на зміцнення дослідницької інфраструктури та додаткове тестування.
До розробки Astra застосували найсуворіші вимоги – ізолювали робочі навантаження та обмежили мережевий доступ. Тепер компанія посилила нагляд за поведінкою алгоритмів. Якщо система виявить підозрілу активність, вона сформує попередження протягом 30 хвилин. Якщо фахівці не спростують помилку за цей час, програму автоматично призупинять.
Нагадаємо, на світовому ринку штучного інтелекту відбулася історична зміна лідера. Стартап Anthropic, який тривалий час залишався в тіні свого головного конкурента, офіційно перевершив OpenAI, ставши найдорожчою приватною ШІ-компанією у світі.
До слова, компанія OpenAI заявила, що дві її моделі штучного інтелекту під час внутрішнього тестування вийшли з-під контролю та зламали інфраструктуру платформи Hugging Face, яку використовують для тестування ІІ-моделей.
Коментарі — 0