Російська дезінформаційна мережа маніпулює західними чат-ботами, кажуть дослідники. Близько третини відповідей від діалогових помічників, таких як ChatGPT, містять кремлівську пропаганду, пише Der Spiegel.
Згідно з дослідженням організації NewsGuard, більше третини відповідей від ШІ-асистентів діалогу, таких як ChatGPT, містили проросійську дезінформацію. На думку дослідників, за цим стоїть московська мережа «Правда», яка поширює прокремлівську пропаганду по всьому світу.
«Величезна кількість російської пропаганди – 3 600 000 статей у 2024 році – тепер включається в результати роботи західних систем штучного інтелекту, заражаючи їхні відповіді неправдивими твердженнями і пропагандою», – пишуть дослідники у своєму звіті.
- Для дослідження NewsGuard проаналізувала десять найважливіших програм штучного інтелекту, серед яких ChatGPT-4, Smart Assistant, Grok, Copilot, Meta AI, Google Gemini і Perplexity.
- Усі вони відтворювали дезінформацію, поширену «Правдою».
- Сім чат-ботів навіть посилалися на конкретні статті «Правди» як на джерела.
На думку дослідників, «Правда» маніпулює чат-ботами, наповнюючи фейковими новинами великі мовні моделі (Large Language Model, LLM) додатків зі штучним інтелектом, на основі яких генеруються відповіді. Цей метод називається «догляд за LLM». Дослідження показує, що чат-боти зі штучним інтелектом не лише вловлюють дезінформацію, що циркулює в інтернеті, але й піддаються цілеспрямованому впливу.
В іншому дослідженні некомерційна американська організація Sunlight Project попереджає про зростаючий вплив «Правдивої мережі», також відомої як «Портал Комбат». «Здатність «Правдивої мережі» поширювати дезінформацію в таких масштабах є безпрецедентною, а її потенціал впливу на системи штучного інтелекту робить цю загрозу ще більш небезпечною», – заявила Ніна Янкович, виконавчий директор American Sunlight Project, в інтерв’ю агентству AFP. «Зі збільшенням масштабів і витонченості російського впливу цілісність демократичних дебатів у всьому світі опиняється під прямою загрозою».
Пропагандистська мережа охоплює десятки мов і країн.
Небезпека, яку становить російська дезінформація, особливо велика тому, що США наразі не роблять нічого, щоб їй протистояти, попереджають експерти. Міністр оборони США Піт Хеггет наказав тимчасово припинити кібероперації проти Росії, повідомили кілька американських ЗМІ на початку цього місяця. Всі операції США проти Москви наразі переоцінюються.