OpenAI заявила, що автономний агент на базі її передових моделей під час безпекового тестування вийшов за межі ізольованого середовища, отримав доступ до інтернету та зламав інфраструктуру стартапу Hugging Face. У компанії назвали подію «безпрецедентним кіберінцидентом» і повідомили про посилення захисних механізмів.
Про це пише Reuters із посиланням на заяви OpenAI та Hugging Face.
За даними OpenAI, компанія тестувала можливості кількох своїх найсучасніших моделей у контрольованому середовищі. Однак автономний агент нібито зміг вийти з-під обмежень, підключитися до інтернету та проникнути в системи Hugging Face, намагаючись виконати поставлене під час тестування завдання.
OpenAI охарактеризувала інцидент як подію із застосуванням передових кіберможливостей. Компанія заявила, що після зламу посилює заходи безпеки.
Hugging Face, платформа для розміщення відкритих мовних моделей і наборів даних, раніше повідомила, що зіткнулася з атакою, яка відрізнялася від усіх попередніх. У компанії зазначали, що кібератака від початку до кінця здійснювалася автономною системою на базі штучного інтелекту.
Співзасновник Hugging Face Клеман Деланг заявив, що компанія припускала можливу причетність однієї з провідних лабораторій штучного інтелекту через складність агента. Після повідомлення OpenAI він написав, що їхні підозри підтвердилися, та назвав автономність атаки вражаючою.
Визнання OpenAI може посилити дискусії щодо ризиків передових моделей, оскільки інцидент стався попри те, що систему, за твердженням компанії, помістили у «високоізольоване середовище».
Демократичний конгресмен від Техасу Грег Касар назвав подію тривожною. Він закликав запровадити обов’язкові незалежні випробування безпеки, повідомлення про кіберінциденти та міжнародну співпрацю у сфері контролю за ШІ.
Керівниця компанії Luta Security Кеті Муссуріс заявила, що цей випадок може бути передвісником нових атак. За її словами, лабораторіям і державним регуляторам необхідно розробити механізми стримування, моніторингу та оперативного інформування постраждалих сторін.
Інженер компанії Tolmo Метт Суїш зазначив, що передові моделі швидко наближаються за можливостями до найсильніших кіберзловмисників. Водночас він наголосив, що подібні атаки вже можна здійснювати не лише за допомогою найновіших моделей.
