Україна відкриває оборонним компаніям із країн-союзників доступ до масиву з понад п’яти мільйонів бойових відео для навчання військових систем штучного інтелекту. Дані зібрані майже за п’ять років війни та вже використовуються українськими компаніями для розробки озброєнь із ШІ.
Про це пише The New York Times.
Йдеться про платформу Avenger Labs, яка містить відео, аудіо та текстові дані з поля бою. Нині нею користуються близько 30 українських оборонних компаній.
Тепер Україна починає відкривати доступ і закордонним партнерам, розраховуючи таким чином поглибити співпрацю у сфері безпеки.
Дані безкоштовні, але є умова
Україна надає доступ до бази безкоштовно.
Натомість компанії, які створюватимуть на її основі програмне забезпечення, повинні надати українським військовим ліцензії на розроблені продукти.
Першими доступ отримають 12 британських оборонних компаній. Київ також веде переговори з іншими країнами.
NYT зазначає, що на Заході вже працює багато компаній, які розробляють автономні системи озброєння. Проте головним дефіцитом для них є не технології, а дані, на яких можна навчати алгоритми.
У цьому сенсі Україна має ресурс, який складно знайти в іншому місці.
Як ШІ вчиться “бачити” цілі
Видання наводить приклад із відео, знятого дроном над зимовим лісом.
Для людини на записі видно лише чорні стовбури дерев, тіні та сніг. Однак система ШІ здатна розпізнати серед цього пейзажу невелику фігуру людини й позначити її як потенційну ціль.
Так само як мовні моделі навчаються на величезній кількості текстів, військові системи штучного інтелекту потребують великої кількості реальних бойових даних.
Саме такими даними і є архів Avenger Labs.
У базі — понад п’ять мільйонів відео
Платформа містить понад п’ять мільйонів відео розвідки та ударів безпілотників.
Серед них є сирі записи роботи FPV-дронів, а також тисячі вже розмічених відео з конкретними категоріями цілей.
За допомогою меню можна вибирати окремі типи об’єктів — наприклад, танки взимку, вантажівки вночі або російські дрони, зафіксовані тепловізійними камерами.
Під час навчання системи підбирається масив із тисяч або десятків тисяч зображень певного типу цілі.
Алгоритм багаторазово аналізує їх і поступово навчається самостійно розпізнавати потрібний об’єкт.
Компанії не отримують прямого доступу до відео
Avenger Labs працює через захищену інфраструктуру.
Зашифрована платформа розміщена в хмарному сервісі за межами України.
Оборонні компанії при цьому не переглядають бойові відео безпосередньо.
Дані запускаються всередині ізольованої комп’ютерної системи — так званої “пісочниці”.
У ній модель навчається розрізняти військові об’єкти та поступово підвищує точність.
Від бази даних — безпосередньо до дрона
Коли модель проходить навчання, її ефективність оцінюють за кількістю помилкових спрацьовувань та пропущених цілей.
Після цього програмне забезпечення можна встановити на бортовий комп’ютер повітряного дрона, наземного робота або морського безпілотника.
У результаті категорія, яка існувала в Avenger Labs — наприклад, “танки”, — може стати пунктом меню вже у бойовій системі.
Військовий обирає потрібний тип цілі, після чого дрон може самостійно шукати відповідні об’єкти.
Представник однієї з компаній, яка вже використовує таку систему на полі бою, заявив NYT, що під час навчання рівень помилкових спрацьовувань був нижчим за 5%.
Від людини в контурі до автономного удару
Більшість систем із ШІ, які зараз використовують дрони, усе ще потребують підтвердження цілі людиною перед ударом.
Проте і Росія, і Україна вже застосовували невелику кількість повністю автономних ударних дронів.
NYT нагадує, що один із російських автономних апаратів у липні вбив трьох людей у місті на півдні України.
Це означає, що питання використання ШІ у бойових системах уже перестало бути суто теоретичним.
Федоров створив фонд для автономної зброї
Колишній міністр оборони України Михайло Федоров, який керував розробкою Avenger Labs, створив інвестиційний фонд.
Його мета — розгорнути повністю автономну бойову систему зі штучним інтелектом уже наступного року.
Одним із головних інвесторів став генеральний директор Palantir Алекс Карп.
Чому Україні потрібні автономні системи
Київ зацікавлений у пришвидшенні таких розробок через ситуацію на фронті.
Україна стикається з труднощами у мобілізації достатньої кількості військових, а також із нестачею традиційних засобів ППО для захисту міст.
Саме тому автоматизація частини бойових завдань розглядається як один із напрямів, який може зменшити навантаження на людей.
Водночас Росія також накопичує бойові дані для навчання ШІ.
Як саме Москва використовує ці масиви інформації і чи передає їх Ірану, Китаю або Північній Кореї, невідомо.
Українські дані можуть бути непридатними для інших воєн
Водночас база Avenger Labs має обмеження.
Старша наукова співробітниця Wadhwani AI Center при Центрі стратегічних і міжнародних досліджень у Вашингтоні Катерина Бондар звертає увагу, що дані з України навчають системи розпізнавати передусім російську техніку та бойове середовище цієї війни.
У конфлікті в іншому регіоні умови можуть бути зовсім іншими.
Наприклад, система, навчена розпізнавати російські об’єкти в українському ландшафті, не обов’язково зможе так само ефективно виявляти іранські ракетні установки в пустелі.
Правила для автономної зброї досі не визначені
Паралельно виникає ще одна проблема — правова.
На міжнародному рівні досі немає остаточної відповіді, як Женевські конвенції та інші норми права мають застосовуватися до озброєнь зі штучним інтелектом.
Ліцензійна угода Avenger Labs не містить окремого положення про права людини.
Україна відкриває доступ до даних через міжурядові угоди.
Українські посадовці виходять із того, що відповідальність за дотримання Женевських конвенцій та інших договорів нестимуть уряди країн, які отримують доступ до системи.
Світ ще не домовився про “людину в контурі”
Минулого місяця під час переговорів ООН у Женеві дипломати США та Росії виступили проти вимоги обов’язкового “значущого людського контролю” над летальними автономними системами.
Переговори мають продовжитися з обговоренням проєкту міжнародної угоди.
Однією з головних проблем залишається непрозорість роботи моделей штучного інтелекту.
Аналітикиня Human Rights Watch Анна Баччареллі пояснює, що алгоритм фактично є “чорною скринькою”, внутрішня логіка якої майже недоступна людині.
Через це у випадку помилки складно встановити, на якому саме етапі і чому система ухвалила неправильне рішення.
Матвійчук закликає до обережності
Лауреатка Нобелівської премії миру та голова Центру громадянських свобод Олександра Матвійчук нагадує, що держави, які ратифікували Римський статут, зобов’язані передавати Міжнародному кримінальному суду військових, відповідальних за воєнні злочини, незалежно від типу застосованої зброї.
На її думку, Україні варто бути особливо обережною під час передачі бойових даних країнам, які не визнають цей принцип міжнародного права.
Серед таких держав вона назвала США.
У результаті Україна опинилася в унікальній ситуації: вона має, ймовірно, найбільший у світі масив реальних сучасних бойових даних для навчання військового ШІ, але ділиться ним у момент, коли міжнародні правила використання автономної зброї ще тільки формуються.
Раніше Bloomberg писав, що Європа має лише кілька тижнів, щоб ухвалити ключові рішення щодо підтримки України. Серед них — фінансування Києва, використання заморожених російських активів, посилення ППО та визначення єдиного представника Європи на переговорах.
