Китайська влада готується до ризику того, що передові системи штучного інтелекту можуть вийти з-під контролю людини. У Пекіні вже закріплюють такі загрози в регуляторних документах та вводять окремі вимоги для ШІ-агентів.
Про це пише Reuters.
У вересні 2024 року Китай уперше прямо включив сценарій майбутньої “втрати контролю” до рамкового документа з безпеки ШІ, підготовленого під керівництвом Управління кіберпростору Китаю.
У документі зазначалося, що в майбутньому ШІ теоретично може самостійно отримувати зовнішні ресурси, копіювати себе, розвивати самосвідомість і прагнути влади, створюючи ризик конкуренції з людьми за контроль.
У розширеній версії документа, оприлюдненій у вересні 2025 року, також допустили можливість раптового й несподівано великого “стрибка” інтелекту ШІ. Тоді ж до правил додали принцип “надійного застосування та запобігання втраті контролю”, покликаний захищати від ризиків, які можуть загрожувати виживанню та розвитку людства.
У липні на Всесвітній конференції зі штучного інтелекту в Шанхаї голова КНР Сі Цзіньпін заявив, що ШІ має “завжди залишатися під контролем людини”.
Китайські посадовці також звертають увагу на ризики військового застосування ШІ. Заступник постійного представника Китаю при ООН Сунь Лей цього місяця закликав уряди обережно підходити до військового ШІ, щоб уникнути стратегічних прорахунків і гонки озброєнь.
Окремі правила вже запроваджують для ШІ-агентів, які здатні діяти автономніше та виконувати складніші завдання, ніж звичайні чатботи. У травні китайський регулятор кіберпростору зобов’язав розробників покращувати механізми виявлення, зупинки, блокування та виправлення неналежної поведінки таких систем.
Серед ризиків у рекомендаціях названо навмисне спотворення даних, маніпуляції алгоритмами, вразливості систем та “операційну втрату контролю”. Остаточне право ухвалювати рішення щодо автономних дій агента має залишатися за користувачем.
Міністр державної безпеки Китаю Чень Ісінь також заявив, що передові американські моделі, зокрема Anthropic Mythos та OpenAI GPT-5.5-Cyber, можуть становити серйозні ризики для критичної інформаційної інфраструктури країни, і закликав посилити безпеку ШІ.
Водночас китайські розробники просувають моделі з відкритим доступом до параметрів, які фахівці з кібербезпеки можуть перевіряти й змінювати для захисних завдань. Reuters зазначає, що такі моделі також несуть ризики, оскільки їх можна модифікувати та поширювати з мінімальним контролем.
