Дві моделі OpenAI самостійно вирвалися із ізольованого середовища, знайшов вразливість і атакували інфраструктуру платформи, яка використовується для тестування.
Дві передові моделі OpenAI під час внутрішнього тестування вирвалися за межі ізольованого середовища, отримали доступ до інтернету та зламали інфраструктуру Hugging Face. Про це компанія повідомила у блозі і назвала інцидент безпрецедентним.
За даними компанії, тест проводився у спеціально ізольованому середовищі, де моделі перевіряли на здатність виконувати складні кібероперації. Для цього OpenAI тимчасово вимкнула частину захисних обмежень.
Під час тесту модель знайшла вразливості в системах OpenAI, отримала доступ до інтернету, а потім атакувала інфраструктуру платформи Hugging Face, яка використовується для тестування ШІ-моделей. За інформацією компанії, ШІ використав кілька способів злому, щоб отримати доступ до службової інформації, яка могла допомогти йому виконати тестове завдання.
OpenAI наголосила, що її служба безпеки виявила незвичну активність, а фахівці Hugging Face швидко зупинили атаку. Обидві компанії зараз спільно розслідують інцидент.
OpenAI назвала цей випадок "безпрецедентним кіберінцидентом", що демонструє можливості моделей нового покоління у сфері кібероперацій. Компанія заявила, що вже посилила захист своєї інфраструктури та працює над новими механізмами безпеки.
