Российская дезинформационная сеть манипулирует западными чат-ботами, говорят исследователи. Около трети ответов от диалоговых помощников, таких как ChatGPT, содержат кремлевскую пропаганду, пишет Der Spiegel.
Согласно исследованию организации NewsGuard, более трети ответов от ИИ-ассистентов диалога, таких как ChatGPT, содержали пророссийскую дезинформацию. По мнению исследователей, за этим стоит московская сеть «Правда», которая распространяет прокремлевскую пропаганду по всему миру.
«Огромное количество российской пропаганды — 3 600 000 статей в 2024 году — теперь включается в результаты работы западных систем искусственного интеллекта, заражая их ответы ложными утверждениями и пропагандой», — пишут исследователи в своем отчете.
Для исследования NewsGuard проанализировала десять важнейших программ искусственного интеллекта, среди которых ChatGPT-4, Smart Assistant, Grok, Copilot, Meta AI, Google Gemini и Perplexity.
Все они воспроизводили дезинформацию, распространенную «Правдой».
Семь чат-ботов даже ссылались на конкретные статьи «Правды» как на источники.
По мнению исследователей, «Правда» манипулирует чат-ботами, наполняя фейковыми новостями большие языковые модели (Large Language Model, LLM) приложений с искусственным интеллектом, на основе которых генерируются ответы. Этот метод называется «забота о LLM». Исследование показывает, что чат-боты с искусственным интеллектом не только улавливают дезинформацию, циркулирующую в интернете, но и подвергаются целенаправленному воздействию.
В другом исследовании некоммерческая американская организация Sunlight Project предупреждает о растущем влиянии «Правдивой сети», также известной как «Портал Комбат». «Способность «Правдивой сети» распространять дезинформацию в таких масштабах является беспрецедентной, а ее потенциал воздействия на системы искусственного интеллекта делает эту угрозу еще более опасной», — заявила Нина Янкович, исполнительный директор American Sunlight Project, в интервью агентству AFP. «С увеличением масштабов и изощренности российского влияния целостность демократических дебатов во всем мире оказывается под прямой угрозой».
Пропагандистская сеть охватывает десятки языков и стран.
Опасность, которую представляет российская дезинформация, особенно велика потому, что США пока не делают ничего, чтобы ей противостоять, предупреждают эксперты. Министр обороны США Пит Хеггет приказал временно прекратить кибероперации против России, сообщили несколько американских СМИ в начале этого месяца. Все операции США против Москвы сейчас переоцениваются.