Компания Google сообщила, что начала активнее использовать искусственный интеллект для защиты пользователей от онлайн-мошенничества, в частности от так называемых «техподдержки» афер, когда на экране появляется фальшивое сообщение о вирусе и предлагается нажать на ссылку для «исправления проблемы».
Как сообщается в блоге Google, компания внедрила использование модели искусственного интеллекта Gemini Nano, которая работает непосредственно на устройстве пользователя — без передачи данных в облако, пишет CNN. Благодаря этому в Chrome с включенным режимом расширенной защиты страницы сканируются в реальном времени, что позволяет быстро выявлять подозрительные сайты. Пользователь получает предупреждение, прежде чем перейти на потенциально опасную страницу.
Google также сообщает, что AI используется для борьбы с так называемым «клоакингом» — когда мошенники создают сайты, которые выглядят безопасными для систем проверки, но на самом деле показывают другой, вредоносный контент пользователям. Новые модели искусственного интеллекта способны быстрее распознавать такие обманные схемы благодаря лучшему пониманию языка и шаблонов поведения.
Кроме Chrome, Google применяет AI и в Android: в частности, пользователям будет отображаться предупреждение, если подозрительные сайты отправляют сообщения. Также будет предложено автоматически отписаться от уведомлений таких ресурсов.
В целом, по данным компании, с помощью искусственного интеллекта уже удалось уменьшить количество мошеннических результатов в Google Search в 20 раз по сравнению с моментом запуска соответствующей системы три года назад. В частности, в 2024 году компания ежедневно блокировала сотни миллионов опасных страниц.
По словам старшего директора инженерного отдела Google Search Фироза Параха, искусственный интеллект помог уменьшить количество мошеннических страниц в поиске, связанных с авиакомпаниями, на 80%.
ИИ все чаще используется для борьбы с мошенниками не только в Google. Например, британский оператор мобильной связи O2 использует чат-бота Daisy, который «разговаривает» с телефонными аферистами, отвлекая их. Microsoft тестирует инструмент для распознавания подозрительных звонков, а Минфин США сообщил, что с помощью искусственного интеллекта обнаружил и вернул миллиард долларов, похищенных в результате подделки чеков.
По данным Global Anti-Scam Alliance, в 2023 году пользователи по всему миру потеряли более триллиона долларов из-за мошенничества.
