Пентагонът продължава да обещава да следва закона, когато използва AI, но какви са ограниченията?

Вижте всички тематики Връзката е копирана! Следвайте

Войната в Иран докара до това, че американската войска употребява изкуствен интелект повече от всеки различен спор преди, черпейки от големи количества данни - от спътници, сигнално разузнаване и други - предадени в софтуерни стратегии, основани от реализатори като Palantir.

AI принадлежности като Claude на Anthropic са пресели данните надалеч по-бързо, в сравнение с всеки човек би могъл, с цел да маркират евентуални цели, които да нападат за командири, съгласно голям брой източници, осведомени с американските интервенции.

Повсеместното разпространяване на AI принадлежности по време на война повдигна въпроси за това дали тези принадлежности способстват за неточности на бойното поле. Някои демократи в Конгреса настояха Пентагона да отговори на въпроси дали AI може да е отчасти отговорен за удара на Съединени американски щати през февруари, който удари иранско начално учебно заведение и съгласно иранските държавни медии умъртви минимум 168 деца. Но какви са рестриктивните мерки за потреблението на AI от военните?

Министърът на защитата Пийт Хегсет акцентира, че хората в Пентагона, а не сътрудниците на ИИ, вземат решение кой да бъде погубен във война.

„ Ние следваме закона и хората вземат решения “, сподели Хегсет пред Комитета по въоръжените сили на Сената предходната седмица. „ ИИ не взема смъртоносни решения. “

Говорителите на Пентагона по сходен метод неведнъж са казвали, че потреблението на AI от армията следва закона.

Но с изключение на уточняването, че командирите са виновни за смъртоносните решения за ориентиране и техните последици, законът не слага експлицитни ограничавания за това къде може да се употребява AI в по този начин наречената верига за убийства. Скоростта, с която AI оказва помощ на командирите да вземат тези смъртоносни решения, повдига нови въпроси за това по кое време и какъв брой постоянно човек би трябвало да взе участие в процеса, споделиха правни специалисти пред CNN.

Липсата на ограничавания докара до някои доста обществени диспути по отношение на етиката на ИИ във войната. Пентагонът е в объркана правна борба с водеща американска компания за изкуствен интелект, Anthropic, откакто тази компания настоя за някои ограничавания в метода, по който може да се употребява нейната технология, като Хегест назова основния изпълнителен шеф на компанията „ идеологически лунатик “ поради търсенето.

„ Историята в последна сметка е за това какъв брой бързо избирате – или можете да си позволите да не – да бягате с ножици “, сподели Гари Корн, някогашен заместник-юрисконсулт в кабинета на ръководителя на Обединените началник-щабове. „ И виждаме, че методът сега е: „ Ще спринтираме допустимо най-бързо с ножица. “ Това е сърцевината на борбата на Anthropic. “

Полковникът от военновъздушните сили на Съединени американски щати Джон Бойд измисли израза „ OODA loop “ (наблюдавайте, ориентирайте, решавайте, действайте), с цел да опише повтарящите се прозорци в борба, когато командирите би трябвало да вземат решения. Голяма част от правната рамка за потреблението на AI произтича от към този момент действителен закон, който е привързан с това кой носи отговорност при вземането на тези решения.

„ ИИ експоненциално усилва “ скоростта, с която командирите и техният спомагателен личен състав ще би трябвало да направляват в OODA циклите в борба, сподели Кори Симпсън, някогашен юридически консултант на Командването на специфичните интервенции на Съединени американски щати.

Във война тези, които най-бързо минават през този цикъл, имат преимущество.

Във видео, оповестено в X от Palantir през март, Камерън Стенли, основен цифров и AI офицер на Пентагона, похвали по какъв начин софтуерът Maven Smart System на Palantir е трансформирал насочването на американските военни. Той показва по какъв начин софтуерът, който съгласно него е разпрострат „ в цялото министерство [на отбраната] “, може да разпознава евентуални военни цели и да ги реалокира в „ работен развой “, който военните водачи да обмислят.

„ Това е революционно “, сподели Стенли. „ Правехме това в към осем или девет системи, където хората безусловно преместваха засичания наляво и надясно, с цел да стигнат до мечтаното от нас извънредно положение, в този случай в действителност затваряйки верига за убийства. “

Бързият софтуерен прогрес значи, че самостоятелните оръжейни системи могат да бъдат свързани, с цел да се опитат да избегнат цивилни. Но технологията не е подготвена за - и специалистите споделят, че в никакъв случай не би трябвало да предаваме - претегляне на моралното пресмятане за това какъв брой цивилни странични вреди са допустими по време на война. Съединени американски щати също са изправени пред евентуални съперници, които слагат доста по-малко акцентиране върху избягването на цивилни жертви.

„ Най-големите терзания … са с предсказуемостта и контрола върху опциите, които пускате в деяние “, сподели Корн, който в този момент е помощник-професор във Вашингтонския лицей по право на Американския университет, имайки поради самостоятелни системи, в това число дронове, които могат да работят без човешко присъединяване. „ Трябва да имате равнище на убеденост, че системата ще работи в границите на това, което законът разрешава при ориентиране. “

Какво споделят законите и политиката на Пентагона

Законът за въоръжените спорове и интернационалното филантропично право диктуват, че военните командири са виновни за минимизирането, доколкото е допустимо, на цивилните жертви по време на война, без значение от технологията, употребена за ликвидиране на хора. Командирите черпят препоръки от адвокати-съдии, юристи, включени в командванията в армията.

През 2023 година, когато приемането на AI се разширяваше в отбранителната промишленост, Пентагонът издаде инструкция за военния личен състав по какъв начин да боравят с технологията. „ Автономните и полуавтономните оръжейни системи ще бъдат проектирани по този начин, че да разрешат на командирите и операторите да упражняват подобаващи равнища на човешка преценка при потреблението на мощ “, се споделя в директивата.

Друг набор от насоки на Пентагона, публикуван при първата администрация на Тръмп през 2020 година, употребява същата фраза „ подобаващи равнища на преценка “, с цел да опише по какъв начин чиновниците могат да употребяват AI.

Директивата от 2023 година към момента е в действие. Оставя отворено за пояснение какво съставлява „ подобаващата “ човешка преценка.

„ Департаментът твърди в [директивата от 2023 г.], че човешкият оператор постоянно е бил в течение, когато употребява самостоятелни благоприятни условия “, сподели чиновник на Пентагона в изказване, когато CNN попита за най-новите правни насоки за вас