Гамбитът „Репликатор“ на Пентагона може да ускори решенията за смъртоносна автономия

Изкуственият интелект, използван от армията на САЩ, е пилотирал дронове за наблюдение с размер на пинта в мисии на силите за специални операции и е помогнал на Украйна във войната й срещу Русия. Той проследява годността на войниците, прогнозира кога самолетите на военновъздушните сили се нуждаят от поддръжка и помага да се следят съперниците в космоса.

Сега Пентагонът възнамерява да пусне няколко хиляди относително евтини автономни превозни средства с изкуствен интелект за разход 2026 г., за да вървим в крак с Китай. Амбициозната инициатива, наречена Replicator, има за цел да „ускори напредъка в твърде бавното пренасочване на иновациите в армията на САЩ към платформи, които са малки, интелигентни, евтини и многобройни“, каза през август заместник-министърът на отбраната Катлийн Хикс.

Въпреки че финансирането му е несигурно и подробностите са неясни, Replicator се очаква да ускори вземането на твърди решения за това коя AI технология е достатъчно зряла и надеждна за внедряване - включително върху оръжейни системи.

Сред учените, експертите в индустрията и служителите на Пентагона няма много спорове, че през следващите няколко години САЩ ще разполагат с напълно автономни смъртоносни оръжия. И въпреки че служителите настояват, че хората винаги ще контролират, експертите казват, че напредъкът в скоростта на обработка на данни и комуникациите между машини неизбежно ще премести хората в надзорни роли.

Това е особено вярно, ако, както се очаква, смъртоносно оръжията се разполагат масово в рояци дронове. Много страни работят по тях – и нито Китай, Русия, Иран, Индия или Пакистан са подписали обещание, инициирано от САЩ, за отговорно използване на военния ИИ.

Не е ясно дали Пентагонът в момента официално оценява някакво напълно автономно смъртоносна оръжейна система за разгръщане, както се изисква от директива от 2012 г. Говорител на Пентагона не иска да каже.

Replicator подчертава огромните технологични и кадрови предизвикателства пред доставките и разработката на Пентагона, тъй като революцията на ИИ обещава да промени начина, по който се водят войните.

„Министерството на отбраната се бори да възприеме разработките на AI от последния пробив в машинното обучение“, каза Грегъри Алън, бивш висш служител на AI в Пентагона, сега в мозъчния тръст Center for Strategic and International Studies.

Портфолиото на Пентагона може да се похвали с повече над 800 некласифицирани проекта, свързани с AI, голяма част от които все още се тестват. Обикновено машинното обучение и невронните мрежи помагат на хората да получат прозрения и да създадат ефективност.

„ИИ, който имаме в Министерството на отбраната в момента, е силно използван и подобрява хората“, каза Миси Къмингс , директор на центъра по роботика на университета "Джордж Мейсън" и бивш изтребител от ВМС. „Няма изкуствен интелект, който да работи сам. Хората го използват, за да се опитат да разберат по-добре мъглата на войната.“

Космосът, новата граница на войната

Един домейн, в който подпомаганите от AI инструменти проследяват потенциални заплахи, е космосът, най-новият граница във военното състезание.

Китай предвижда използването на AI, включително на сателити, за „вземане на решения кой е и кой не е противник“, каза главният офицер по технологиите и иновациите на космическите сили на САЩ Лиза Коста пред онлайн конференция този месец.

САЩ имат за цел да поддържат темпото.

Оперативен прототип, наречен Machina, използван от Space Force, следи автономно повече от 40 000 обекта в космоса, организирайки хиляди колекции от данни всяка нощ с глобална мрежа от телескопи.

Алгоритмите на Machina управляват сензорите на телескопа. Компютърното зрение и големите езикови модели им казват какви обекти да проследяват. И AI хореографира, черпейки незабавно от астродинамика и набори от данни за физика, каза полковник Уолъс „Рет“ Търнбул от Командването на космическите системи на конференция през август.

Друг проект за ИИ в Space Force анализира радарни данни, за да открие предстоящо изстрелване на ракети от противник , каза той.

Поддръжка на самолети и войници

На други места предсказуемите способности на AI помагат на ВВС да поддържа флота си високо, предвиждайки нуждите от поддръжка на повече от 2600 самолета, включително бомбардировачи B-1 и хеликоптери Blackhawk.

Моделите за машинно обучение идентифицират възможни повреди десетки часове преди те да се случат, каза Том Сибел, главен изпълнителен директор на базираната в Силиконовата долина C3 AI, която има договора. Технологията на C3 също така моделира траекториите на ракетите за Агенцията за противоракетна отбрана на САЩ и идентифицира вътрешни заплахи във федералната работна сила за Агенцията за контраразузнаване и сигурност на отбраната.

Сред усилията, свързани със здравето, е проследяване на пилотен проект годността на цялата Трета пехотна дивизия на армията - повече от 13 000 войници. Прогнозното моделиране и изкуственият интелект помагат за намаляване на нараняванията и повишаване на производителността, каза майор Мат Висер.

В Украйна изкуственият интелект, осигурен от Пентагона и неговите съюзници в НАТО, помага за осуетяването на руската агресия.

Съюзниците в НАТО споделят разузнавателна информация от данни, събрани от сателити, дронове и хора, някои обобщени със софтуер от американския изпълнител Palantir. Някои данни идват от Maven, изследователският проект на Пентагона за изкуствен интелект, който сега се управлява предимно от Националната агенция за геопространствено разузнаване, казват служители, включително пенсионираният генерал от военновъздушните сили Джак Шанахан, първият директор на Пентагона за изкуствен интелект,

Maven започна през 2017 г. като усилие за обработка на видео от дронове в Близкия изток – подтикнато от силите за специални операции на САЩ, борещи се с ISIS и Ал-Кайда – и сега събира и анализира широк набор от сензорни и човешки данни.

AI също така помогна на създадената от САЩ група за подпомагане на сигурността в Украйна да помогне за организирането на логистиката за военна помощ от коалиция от 40 държави, казват представители на Пентагона.

Командиране и контрол на всички домейни

За да оцелеят на бойното поле в днешно време, военните единици трябва да са малки, предимно невидими и да се движат бързо, защото експоненциално нарастващите мрежи от сензори позволяват на всеки да „вижда навсякъде по земното кълбо във всеки един момент“, отбеляза тогавашният председател на Обединените началници генерал Марк Мили в Юнска реч. „И това, което можете да видите, можете да стреляте.“

За по-бързо свързване на бойците, Пентагонът приоритизира разработването на преплетени бойни мрежи — наречени Съвместно командване и контрол на всички домейни — за автоматизиране на обработката на оптични, инфрачервени, радарни и други данни във въоръжените сили. Но предизвикателството е огромно и изпълнено с бюрокрация.

Кристиан Броуз, бивш директор на персонала на комисията по въоръжените сили на Сената, сега във фирмата за отбранителни технологии Anduril, е сред защитниците на военната реформа, които въпреки това вярват, че „може да печелят тук до известна степен.“

„Аргументът може да е по-малко за това дали това е правилното нещо, което трябва да направим, и все повече за това как всъщност го правим – и относно необходимите бързи срокове“, той казах. Книгата на Brose от 2020 г., „The Kill Chain“, настоява за спешно преоборудване, за да се изравни с Китай в надпреварата за разработване на по-интелигентни и по-евтини мрежови оръжейни системи.

За тази цел армията на САЩ работи усилено върху „човешки -обединяване на машини.” Десетки въздушни и морски превозни средства без екипаж в момента следят иранската дейност. Американските морски пехотинци и специални сили също използват автономния мини-коптер Ghost на Anduril, сензорни кули и технология за противодействие на дронове, за да защитават американските сили.

Напредъкът в индустрията в компютърното зрение е от съществено значение. Shield AI позволява на дроновете да работят без GPS, комуникации или дори дистанционни пилоти. Това е ключът към неговия Nova, квадрокоптер, който американските части за специални операции са използвали в зони на конфликти за разузнаване на сгради.

На хоризонта: Програмата на ВВС за „лоялен служител“ възнамерява да сдвои пилотирани самолети с автономни нечий. Пилот на F-16 може например да изпрати дронове за разузнаване, привличане на вражески огън или атака на цели. Ръководителите на военновъздушните сили се стремят към дебют по-късно през това десетилетие.

Състезанието за пълна автономия

Хронологията на „лоялния служител“ не съвпада съвсем с тази на Replicator, която мнозина смятат за прекалено амбициозна . Междувременно неяснотата на Пентагона по отношение на Replicator може отчасти да има за цел да накара съперниците да гадаят, въпреки че планиращите все още могат да се ориентират по отношение на функциите и целите на мисията, каза Пол Шар, военен експерт по ИИ и автор на „Четирите бойни полета“.

Anduril и Shield AI, всяка от които е подкрепена от стотици милиони финансиране с рисков капитал, са сред компаниите, борещи се за договори.

Нейтън Майкъл, главен технологичен директор в Shield AI, смята, че те ще имат автономна рояк от най-малко три самолета без екипаж, готови за една година, използвайки своя V-BAT дрон. Понастоящем американската армия използва V-BAT – без AI ум – на кораби на ВМС, в мисии за борба с наркотиците и в подкрепа на морските експедиционни единици, казва компанията.

Ще отнеме известно време преди по-големите рояци да могат да бъдат надеждно поставени, каза Майкъл. „Всичко е пълзене, ходене, бягане – освен ако не се подготвяте за провал.“

Единствените оръжейни системи, на които Шанахан, встъпилият в длъжност шеф на Пентагона AI, понастоящем вярва, че работят автономно, са изцяло отбранителни, като противоракетните системи Phalanx на корабите. Той се тревожи по-малко за автономните оръжия, които вземат решения сами, отколкото за системите, които не работят както се рекламира или убиват невоюващи или приятелски сили.

Настоящият главен цифров и AI офицер на отдела Крейг Мартел е решен да не позволи това се случва.

„Независимо от автономността на системата, винаги ще има отговорен агент, който разбира ограниченията на системата, обучен е добре със системата, има оправдано доверие кога и къде може да бъде внедрена – и винаги ще поеме отговорността“, каза Мартел, който преди това е ръководил машинно обучение в LinkedIn и Lyft. „Това никога няма да бъде така.“

Кога AI ще бъде достатъчно надежден за смъртоносна автономност, Мартел каза, че няма смисъл да се обобщава. Например Мартел се доверява на адаптивния круиз контрол на колата си, но не и на технологията, която трябва да я предпази от смяна на платното. „Като отговорен агент, не бих разположил това, освен в много ограничени ситуации“, каза той. „Сега екстраполирайте това към военните.“

Офисът на Martell оценява потенциални генеративни случаи на използване на AI – има специална работна група за това – но се фокусира повече върху тестването и оценката на AI в процес на разработка.

Едно неотложно предизвикателство, казва Джейн Пинелис, главен инженер по изкуствен интелект в лабораторията по приложна физика на университета „Джонс Хопкинс“ и бивш ръководител на отдела за осигуряване на изкуствен интелект в офиса на Martell, е набирането и задържането на таланта, необходим за тестване на технологиите за изкуствен интелект. Пентагонът не може да се конкурира със заплати. Докторантите по компютърни науки с умения, свързани с изкуствения интелект, могат да печелят повече от високопоставените военни генерали и адмирали.

Стандартите за тестване и оценка също са незрели, подчертава неотдавнашен доклад на Националната академия на науките за ИИ на ВВС.

Може ли това да означава, че един ден САЩ ще пуснат под принуда автономни оръжия, които не преминават напълно проверката?

„Ние все още работим при предположението, че имаме време да направим това толкова стриктно и възможно най-усърдно“, каза Пинелис. „Мисля, че ако не сме готови и е време да предприемем действия, някой ще бъде принуден да вземе решение.“

Последвайте ни в