В социальных сетях в Китае начали распространяться видео, на которых изображены иностранки, которые на китайском языке пропагандируют любовь к Китаю. Это аватары, которых создали с помощью искусственного интеллекта из ворованных изображений.
Об этом сообщает американская телерадиоорганизация «Голос Америки«.
Одной из таких девушек стала 20-летняя украинка, которая изучает когнитивные науки в Университете Пенсильвании — Ольга Лоек. Она ведет YouTube, где она рассказывает о ментальном здоровье и делится своими философскими взглядами на жизнь. Впоследствии девушка начала получать сообщения от подписчиков, что ее видели в китайских соцсетях.
Однако там она не Ольга Лоек, а россиянка, которая говорит по-китайски, любит Китай и хочет выйти замуж за китайца. Ее зовут Наташа, или Анна, или Грейс, в зависимости от соцсети в Китае.
«Я начала переводить видео с помощью Google Translate и поняла, что большинство этих учетных записей говорят о таких вещах, как Китай, Россия, о том, насколько хорошие отношения между Китаем и Россией. Это очень обидно», — сказала она Голосу Америки.
В некоторых роликах аватары рассказывают о том, как они ценят тесные связи России и Китая. В других роликах восхваляют китайскую историю и культуру или рассказывают о том, как сильно россиянки хотят выйти замуж за китайца.
На видеосайтах Douyin и Bilibili содержится несколько десятков видео, на которых аватар Лоек разговаривает на китайском. Большинство из этих учетных записей приглашают зрителей посетить онлайн-магазины, чтобы купить, как они говорят, настоящие русские товары.
Douyin, китайская версия TikTok, обозначила некоторые из этих видео как потенциально сгенерированные ИИ. Но из комментариев видно, что многие верят, что смотрят на настоящую женщину.
На Bilibili, крупнейшем видеосайте Китая, некоторые видео с искусственным интеллектом, в которых используется лицо Лоек, помечены логотипом HeyGen, что указывает на то, что видео было создано на вебсайте компании. В одном видео с Bilibili демонстратор даже показывает, как сделать короткое видео на HeyGen с клипом, на котором разговаривает Лоек.
Лоек сказала, что после того, как она и ее подписчики на YouTube отправили жалобы китайским компаниям социальных сетей, около десятка учетных записей, которые имитировали ее, были удалены.
Что касается Лоек, то она не планирует покидать YouTube или прекращать публикации.
Нам нужна определенная нормативная база, чтобы понимать и предотвратить подобные вещи», — сказала она.
В начале 2023 года правительство Китая ввело положение о регулировании дипфейков и других «сервисов глубокого синтеза».
Закон запрещает создавать дипфейки без согласия людей, чье изображение или другая информация используются. Лоек опубликовала свою историю на YouTube, и ее распространили в китайских социальных сетях. Пользователи сети на разных платформах сочувствовали ей и призывали ужесточить правила в отношении ИИ.
Китайские технологические гиганты, такие как Baidu и Tencent, инвестируют значительные средства в технологии ИИ. Одной из самых раскрученных услуг на основе ИИ являются цифровые изображения людей.