Украина открывает оборонным компаниям из стран-союзников доступ к массиву из более чем пяти миллионов боевых видео для обучения военных систем искусственного интеллекта. Данные собраны почти за пять лет войны и уже используются украинскими компаниями для разработки вооружений с ИИ.
Об этом пишет The New York Times.
Речь идет о платформе Avenger Labs, которая содержит видео, аудио и текстовые данные с поля боя. Сейчас ею пользуются около 30 украинских оборонных компаний.
Теперь Украина начинает открывать доступ и зарубежным партнерам, рассчитывая таким образом углубить сотрудничество в сфере безопасности.
Данные бесплатны, но есть условие
Украина предоставляет доступ к базе бесплатно.
Взамен компании, которые будут создавать на ее основе программное обеспечение, должны предоставить украинским военным лицензии на разработанные продукты.
Первыми доступ получат 12 британских оборонных компаний. Киев также ведет переговоры с другими странами.
NYT отмечает, что на Западе уже работает много компаний, разрабатывающих автономные системы вооружения. Однако главным дефицитом для них являются не технологии, а данные, на которых можно обучать алгоритмы.
В этом смысле Украина располагает ресурсом, который трудно найти где-либо еще.
Как ИИ учится «видеть» цели
Издание приводит пример с видео, снятым дроном над зимним лесом.
Для человека на записи видны лишь черные стволы деревьев, тени и снег. Однако система ИИ способна распознать среди этого пейзажа небольшую фигуру человека и обозначить ее как потенциальную цель.
Так же как языковые модели обучаются на огромном количестве текстов, военные системы искусственного интеллекта нуждаются в большом объеме реальных боевых данных.
Именно такими данными и является архив Avenger Labs.
В базе — более пяти миллионов видео
Платформа содержит более пяти миллионов видео разведки и ударов беспилотников.
Среди них есть необработанные записи работы FPV-дронов, а также тысячи уже размеченных видео с конкретными категориями целей.
С помощью меню можно выбирать отдельные типы объектов — например, танки зимой, грузовики ночью или российские дроны, зафиксированные тепловизионными камерами.
Во время обучения системы подбирается массив из тысяч или десятков тысяч изображений определенного типа цели.
Алгоритм многократно анализирует их и постепенно учится самостоятельно распознавать нужный объект.
Компании не получают прямого доступа к видео
Avenger Labs работает через защищенную инфраструктуру.
Зашифрованная платформа размещена в облачном сервисе за пределами Украины.
При этом оборонные компании не просматривают боевые видео напрямую.
Данные запускаются внутри изолированной компьютерной системы — так называемой «песочницы».
В ней модель учится различать военные объекты и постепенно повышает точность.
От базы данных — непосредственно к дрону
После обучения эффективность модели оценивают по количеству ложных срабатываний и пропущенных целей.
Затем программное обеспечение можно установить на бортовой компьютер воздушного дрона, наземного робота или морского беспилотника.
В результате категория, существовавшая в Avenger Labs — например, «танки», — может стать пунктом меню уже в боевой системе.
Военнослужащий выбирает нужный тип цели, после чего дрон может самостоятельно искать соответствующие объекты.
Представитель одной из компаний, которая уже использует такую систему на поле боя, заявил NYT, что во время обучения уровень ложных срабатываний был ниже 5%.
От человека в контуре до автономного удара
Большинство систем с ИИ, которые сейчас используются в дронах, по-прежнему требуют подтверждения цели человеком перед ударом.
Однако и Россия, и Украина уже применяли небольшое количество полностью автономных ударных дронов.
NYT напоминает, что один из российских автономных аппаратов в июле убил трех человек в городе на юге Украины.
Это означает, что вопрос использования ИИ в боевых системах уже перестал быть исключительно теоретическим.
Федоров создал фонд для автономного оружия
Бывший министр обороны Украины Михаил Федоров, который руководил разработкой Avenger Labs, создал инвестиционный фонд.
Его цель — развернуть полностью автономную боевую систему с искусственным интеллектом уже в следующем году.
Одним из главных инвесторов стал генеральный директор Palantir Алекс Карп.
Почему Украине нужны автономные системы
Киев заинтересован в ускорении таких разработок из-за ситуации на фронте.
Украина сталкивается с трудностями при мобилизации достаточного количества военнослужащих, а также с нехваткой традиционных средств ПВО для защиты городов.
Именно поэтому автоматизация части боевых задач рассматривается как одно из направлений, которое может снизить нагрузку на людей.
Россия также накапливает боевые данные для обучения ИИ.
Как именно Москва использует эти массивы информации и передает ли их Ирану, Китаю или Северной Корее, неизвестно.
Украинские данные могут быть непригодны для других войн
В то же время база Avenger Labs имеет ограничения.
Старший научный сотрудник Wadhwani AI Center при Центре стратегических и международных исследований в Вашингтоне Катерина Бондарь обращает внимание, что данные из Украины обучают системы распознавать прежде всего российскую технику и боевую среду этой войны.
В конфликте в другом регионе условия могут быть совсем иными.
Например, система, обученная распознавать российские объекты в украинском ландшафте, не обязательно сможет столь же эффективно выявлять иранские ракетные установки в пустыне.
Правила для автономного оружия до сих пор не определены
Параллельно возникает еще одна проблема — правовая.
На международном уровне до сих пор нет окончательного ответа на вопрос, как Женевские конвенции и другие нормы права должны применяться к вооружениям с искусственным интеллектом.
Лицензионное соглашение Avenger Labs не содержит отдельного положения о правах человека.
Украина открывает доступ к данным в рамках межправительственных соглашений.
Украинские чиновники исходят из того, что ответственность за соблюдение Женевских конвенций и других договоров будут нести правительства стран, получающих доступ к системе.
Мир еще не договорился о «человеке в контуре»
В прошлом месяце во время переговоров ООН в Женеве дипломаты США и России выступили против требования обязательного «значимого человеческого контроля» над летальными автономными системами.
Переговоры должны продолжиться обсуждением проекта международного соглашения.
Одной из главных проблем остается непрозрачность работы моделей искусственного интеллекта.
Аналитик Human Rights Watch Анна Баччарелли объясняет, что алгоритм фактически является «черным ящиком», внутренняя логика которого почти недоступна человеку.
Из-за этого в случае ошибки сложно установить, на каком именно этапе и почему система приняла неправильное решение.
Матвийчук призывает к осторожности
Лауреат Нобелевской премии мира и глава Центра гражданских свобод Александра Матвийчук напоминает, что государства, ратифицировавшие Римский статут, обязаны передавать Международному уголовному суду военных, ответственных за военные преступления, независимо от типа примененного оружия.
По ее мнению, Украине следует быть особенно осторожной при передаче боевых данных странам, которые не признают этот принцип международного права.
Среди таких государств она назвала США.
В результате Украина оказалась в уникальной ситуации: она располагает, вероятно, крупнейшим в мире массивом реальных современных боевых данных для обучения военного ИИ, но делится им в момент, когда международные правила использования автономного оружия еще только формируются.
Ранее Bloomberg писал, что у Европы есть лишь несколько недель, чтобы принять ключевые решения по поддержке Украины. Среди них — финансирование Киева, использование замороженных российских активов, усиление ПВО и определение единого представителя Европы на переговорах.
