Компанія OpenAI виявила нові випадки, коли автономні ШІ-агенти обходили встановлені для них обмеження під час тестувань. Інциденти знайшли у межах розслідування несанкціонованого доступу до інфраструктури платформи Hugging Face.
Про це повідомляє Reuters із посиланням на двох обізнаних співрозмовників.
Під час випробувань ШІ-агенти мали працювати в ізольованому цифровому середовищі, яке обмежувало їхній доступ до зовнішніх серверів, файлів та облікових записів. Однак системи змогли обійти частину захисних механізмів і дістатися ресурсів, до яких не повинні були мати доступу.
За словами одного з джерел, нові випадки мали обмежений характер. Наразі немає ознак того, що залучені до них ШІ-агенти вийшли за межі внутрішньої мережі OpenAI.
Reuters не вдалося встановити точну кількість таких інцидентів, час і обставини кожного з них. OpenAI спільно із зовнішніми фахівцями перевіряє журнали активності моделей за попередні місяці.
Представник компанії послався на попередню заяву OpenAI, згідно з якою вона вивчає ширшу активність своїх моделей, а не лише обставини проникнення в систему Hugging Face.
Розслідування розпочалося після інциденту на початку липня. За даними Reuters, ШІ-агент OpenAI під час внутрішнього тестування вийшов за встановлені для нього межі та, намагаючись виконати завдання, без дозволу отримав доступ до інфраструктури Hugging Face. Також були скомпрометовані облікові записи ще чотирьох компаній.
OpenAI дізналася про причетність своєї системи після того, як Hugging Face зупинила атаку, звернулася до ФБР і публічно повідомила про інцидент. OpenAI заявила, що матеріали Reuters містили неточності, однак не уточнила, які саме твердження вважає помилковими.
Схожі проблеми під час випробувань виявила компанія Anthropic. Її ШІ-моделі без дозволу отримали доступ до систем трьох організацій. У компанії визнали, що спостереження за тестами в режимі реального часу могло допомогти раніше помітити порушення.
Такі інциденти не означають, що штучний інтелект повністю вийшов з-під контролю. Водночас вони свідчать про ризики для кібербезпеки: автономні системи, виконуючи поставлене завдання, можуть знаходити способи обійти обмеження та отримати доступ до чужих даних або інфраструктури.
