У соціальних мережах в Китаї почали ширитися відео, на яких зображені іноземки, які китайською мовою пропагують любов до Китаю. Це аватари, яких створили за допомогою штучного інтелекту із крадених зображень.
Про це повідомляє американська телерадіоорганізація “Голос Америки“.
Однією із таких дівчат стала 20-річна українка, яка вивчає когнітивні науки в Університеті Пенсильванії — Ольга Лоєк. Вона веде YouTube, де вона розповідає про ментальне здоров’я та ділиться своїми філософськими поглядами на життя. Згодом дівчина почала отримувати повідомлення від підписників, що її бачили у китайських соцмережах.
Проте там вона не Ольга Лоєк, а росіянка, яка розмовляє китайською, любить Китай і хоче вийти заміж за китайця. Її звуть Наташа, або Анна, або Грейс, залежно від соцмережі в Китаї.
“Я почала перекладати відео за допомогою Google Translate і зрозуміла, що більшість цих облікових записів говорять про такі речі, як Китай, Росія, про те, наскільки хороші відносини між Китаєм і Росією. Це дуже образливо”, — сказала вона Голосу Америки.
У деяких роликах аватари розповідають про те, як вони цінують тісні зв’язки Росії та Китаю. В інших роликах вихваляють китайську історію та культуру або розповідають про те, як сильно росіянки хочуть вийти заміж за китайця.
На відеосайтах Douyin і Bilibili міститься кілька десятків відео, на яких аватар Лоєк розмовляє китайською. Більшість із цих облікових записів запрошують глядачів відвідати онлайн-магазини, щоб купити, як вони кажуть, справжні російські товари.
Douyin, китайська версія TikTok, позначила деякі з цих відео як потенційно згенеровані ШІ. Але з коментарів видно, що багато хто вірить, що дивиться на справжню жінку.
На Bilibili, найбільшому відеосайті Китаю, деякі відео зі штучним інтелектом, в яких використовується обличчя Лоєк, позначено логотипом HeyGen, що вказує на те, що відео було створено на вебсайті компанії. В одному відео з Bilibili демонстратор навіть показує, як зробити коротке відео на HeyGen із кліпом, на якому розмовляє Лоєк.
Лоєк сказала, що після того, як вона та її підписники на YouTube надіслали скарги китайським компаніям соціальних мереж, близько десятка облікових записів, які імітували її, було видалено.
Що стосується Лоєк, то вона не планує залишати YouTube або припиняти публікації.
Нам потрібна певна нормативна база, щоб розуміти та запобігти подібним речам”, — сказала вона.
На початку 2023 року уряд Китаю запровадив положення щодо регулювання дипфейків та інших “сервісів глибокого синтезу”.
Закон забороняє створювати дипфейки без згоди людей, чиє зображення чи інша інформація використовуються. Лоєк опублікувала свою історію на YouTube, і її поширили в китайських соціальних мережах. Користувачі мережі на різних платформах співчували їй і закликали посилити правила щодо ШІ.
Китайські технологічні гіганти, такі як Baidu і Tencent, інвестують значні кошти в технології ШІ. Однією з найбільш розкручених послуг на основі ШІ є цифрові зображення люди.