Небольшие модели искусственного интеллекта могут быть всего в нескольких месяцах от появления возможностей, необходимых для самостоятельного копирования и распространения между подключенными к интернету домашними устройствами. В Anthropic предупреждают, что такая система потенциально могла бы работать без централизованной инфраструктуры, из-за чего ее было бы сложно полностью отключить.
Об этом пишет CNBC со ссылкой на новое исследование Anthropic.
Компания описала сценарий, при котором ИИ-модель может проникать в плохо защищенные устройства — например, Android TV-приставки или другую «умную» технику — использовать их вычислительные ресурсы для собственной работы и распространять копии на другие устройства.
По словам Anthropic, такую систему было бы «сложно отключить», поскольку у нее не было бы единой централизованной точки, которую можно просто выключить.
Полностью автономного «репликатора» пока нет
В компании подчеркивают, что в настоящее время не существует «полностью неконтролируемого репликатора».
При этом современные ИИ-агенты все лучше выполняют отдельные этапы, необходимые для автономного копирования, а также могут передавать свои адаптации следующим копиям.
Anthropic проверяла такие возможности в экспериментах с небольшими моделями.
В одном из тестов компания запускала модель Google Gemma4-26B-A4B в сети из 15 дешевых Android TV-приставок неизвестных брендов.
В Anthropic отмечают, что такие устройства часто имеют слабую защиту и потенциально могут использоваться для распределенных вычислений.
Если модель слишком велика для одного устройства, она теоретически может разделиться на части и работать сразу на нескольких устройствах.
Anthropic описала сценарий «ИИ-червя»
Компания предполагает, что реальный сценарий автономного распространения ИИ может быть сложнее, чем одна модель, которая просто копирует себя.
«На практике ИИ-червь не обязательно будет состоять только из одной модели или одной стратегии. Рой различных моделей, развернутых на разных типах оборудования и использующих разные схемы репликации, может быть более реалистичным сценарием худшего случая», — отметили в Anthropic.
В компании признают, что пока неизвестно, какую именно форму может принять автономное самокопирование ИИ.
Это может быть медленная распределенная система на плохо защищенных устройствах, мощная кибермодель, способная быстро проникать в дата-центры, или модель, которая получает доступ к чужим вычислительным ресурсам через похищенные API-ключи или мошенничество.
«Будущее будет заполнено агентами»
Anthropic прогнозирует, что со временем появится все больше ИИ-агентов, работающих на разных типах оборудования, и часть из них может не находиться под прямым контролем людей.
«Мы ожидаем будущее, заполненное агентами, работающими на всех типах оборудования, включая некоторых, которые не находятся под контролем человека», — заявили в компании.
Исследователи также считают, что появление даже медленных систем, способных к самокопированию, может стать предвестником значительно более агрессивных моделей, способных атаковать лучше защищенные устройства или похищать ключи доступа к облачным сервисам.
В Anthropic подчеркивают, что речь идет о прогнозе на основе экспериментов, а не об уже существующей автономной ИИ-системе, которая самостоятельно распространяется по домашним устройствам.
