ИИ Оръжията се нуждаят от данни за своето обучение. Украйна има какво да предложи.

Гората, следена от дрон, изглеждаше като голям, еднообразен пейзаж от черни стволове на дървета, сенки и петна сняг.

За човешкото око тя изглеждаше пуста. Но за система с изкуствен интелект, която търси хора, не съумя. Системата сложи алена кутия към дребна човешка фигура, евентуално боец, дебнещ в дърветата.

Зад този героизъм стоят големи размери от данни. Точно както ChatGPT и други A.I. чатботовете би трябвало да бъдат изложени на това по какъв начин пишат хората, военният ИИ. системите би трябвало да бъдат изложени на метода, по който хората се бият. В Украйна това се случва посредством голямо количество видеозаписи от бойното поле, аудио и текстови данни, събрани в продължение на близо пет години.

Военната база данни се употребява от към 30 украински отбранителни компании за създаване на ИИ. оръжия. Украйна в този момент отваря това вместилище, което назовава Avenger Labs, за компании в съюзнически страни, надявайки се да задълбочи партньорствата за сигурност.

Бивш украински министър на защитата Михайло Федоров, който управлява създаването на платформата Avenger Labs, сътвори капиталов фонд за за внедряване на изцяло самостоятелен ИИ. оръжие следващата година. Алекс Карп, основен изпълнителен шеф на компанията за разбор на данни Palantir, е водещ вложител.

Наскоро украинското министерство на защитата даде проява на това по какъв начин Украйна основава ИИ. оръжия.

Когато упражнявате дрон палач, първата стъпка е да решите какво ще убива. Трябва да се избере набор от данни — хиляди или десетки хиляди изображения на вида цел, която оръжието би трябвало да лови.

Avenger Labs съхранява повече от пет милиона видеоклипове за наблюдаване и удари с дронове. Много от тях са необработени фрагменти на дребни бръмчащи дронове, които преследват съветски бойци и ги взривяват. Но лентата с менюта в платформата може да извика хиляди анотирани видеоклипове на бойното поле, съответстващи на необятен набор от цели. Сред тях са танкове през зимата; камиони през нощта; и експлодиращи съветски дронове, следени посредством термовизионни камери.

Криптираната платформа се хоства от облачна услуга отвън Украйна. Отбранителните компании не гледат непосредствено видеоклиповете. Те ръководят данните в по този начин наречената пясъчна кутия или изолирана компютърна система. С течение на времето, до момента в който се зареждат с видеозаписи от военно време, те се научават да разпознават военни цели.

Веднъж A.I. моделът стане умел в пясъчната среда, измерено посредством подправени позитивни и подправени негативни резултати, една компания може да го зареди в компютъра за ориентиране на въздушен дрон, наземен робот или морски дрон.

С това детайлът от менюто на платформата Avenger Labs — да вземем за пример танкове — става детайл от менюто на A.I. оръжие. Войник може да щракне върху този детайл от менюто, след което да пусне дрон за самостоятелно търсене на задачата.

Ръководител на една компания, която е употребила системата за ИИ. моделът, който в този момент се употребява на бойното поле, сподели, че статистиката от образованието демонстрира подправени позитивни резултати от по-малко от 5 %. Изпълнителният шеф приказва при изискване за анонимност заради съглашение за секретност с Avenger Labs. Каквито и да са опасенията за килъра A.I. оръжия, съобщи изпълнителният шеф, те ще бъдат създадени по един или различен метод.

Украинската база данни за войната има ограничавания. Не е ясно до каква степен изображенията са подобаващи за спорове отвън Украйна, сподели Катерина Бондар, старши помощник в Wadhwani AI Center към Центъра за стратегически и интернационалните проучвания във Вашингтон.

„ Ако обучите компютрите си да разпознават съветски активи, какво ще вършиме с това “ надалеч от Украйна, попита тя. Във война в Близкия изток А.И. оръжията може да се наложи да разпознаят, да вземем за пример, ирански ракетни установки в необитаем пейзаж.

Има и въпроси по отношение на евентуалното нелегално потребление на данните. Лицензионното съглашение не включва уговорка за правата на индивида. Украйна отваря достъпа по съглашения сред държавното управление. Тези държавни управления, настояват украински чиновници, са виновни да подсигуряват, че техните военни се придържат към Женевските конвенции и други контракти.

Във всеки случай Украйна отваря своите военни данни в правна празнина. Миналия месец на договарянията на Организация на обединените нации в Женева съветски и американски дипломати се опълчиха на условието за „ забележителен човешки надзор “ върху смъртоносни самостоятелни оръжия. Тези диалози ще бъдат възобновени в понеделник, с цел да се прегледа проектодоговор.

Софтуерните модели, основани от AI. са черна кутия за хората, тъй като техните вътрешни разсъждения са значително непрозрачни. Това е проблем, сподели Anna Bacciarelli, анализатор на A.I. и спор с Хюман Райтс Уоч, тъй като „ черната кутия замъглява отчетността “ в самонасочващите се оръжия. „ Трудно е да се дефинира моментът, в който нещо се обърка “, сподели тя.

Олександра Матвийчук, лауреат на Нобелова премия за мир и шеф на Центъра за цивилен свободи в Киев, сподели, че Украйна и други страни, които са утвърдили Римския статут, съглашението, което сътвори Международния углавен съд, са били длъжни да екстрадират за съдене военни офицери, виновни за военни закононарушения, без значение от употребяваното оръжие.

Украйна би трябвало да бъде внимателна, сподели госпожа Матвийчук, при шерването на данни с страни, които не са приели този принцип на интернационалното право, като Съединените щати.

Евелина Рябенко способства за докладването.