Шефът на Palantir UK казва, че военните трябва да решат как да се използва AI насочването във война

Технологичният колос Palantir отхвърли опасенията, че военното потребление на неговите AI платформи може да докара до непредвидени опасности, в извънредно изявление за BBC, настоявайки, че методът, по който се употребява технологията, е отговорност на нейните военни клиенти.

Това идва откакто специалисти показаха угриженост по отношение на потреблението на задвижваната от AI отбранителна платформа на Palantir - Maven Smart System - по време на война и докладваното й потребление при офанзиви на Съединени американски щати против Иран.

Анализаторите предизвестиха, че потреблението на платформата от военните, която оказва помощ на личния състав да възнамерява офанзиви, оставя малко време за " смислена инспекция " на нейния резултат и може да докара до поразяване на неправилни цели.

Но ръководителят на компанията за Обединеното кралство и Европа, Луис Мозли, сподели пред BBC в широкообхватно изявление, че до момента в който AI платформи като Maven бяха „ инструментални “ за ръководството на войната в Иран от Съединени американски щати, отговорността за това по какъв начин се употребява тяхната продукция би трябвало постоянно да остава „ на военната организация “.

„ Винаги има човек в цикъла, тъй че постоянно има човек, който взема крайното решение. Това е настоящата конфигурация. “

Умната система Maven започва от Пентагона през 2017 година и е проектирана да форсира решенията за военно ориентиране посредством сливане на масиви от данни, в това число набор от разследващи данни, сателитни изображения и изображения с дронове.

Системата проучва тези данни и по-късно може да даде рекомендации за ориентиране. Той може също по този начин да предложи равнището на мощ, което да се употребява въз основа на наличността на личен състав и военна техника, като да вземем за пример самолети.

Но потреблението на такива принадлежности във война е повишено. През февруари Пентагонът разгласи, че последователно ще отстрани системата Claude AI на Anthropic - която оказва помощ за зареждането на Maven - откакто компанията отхвърли да позволи потреблението на своя AI в самостоятелни оръжия и наблюдаване. Палантир споделя, че други възможности могат да го заменят.

Откакто войната с Иран стартира през февруари, съгласно известията Съединени американски щати са употребявали Maven за обмисляне на удари в цялата страна.

Подтикнат от BBC заради риска Maven да предложи неправилни цели - които може да включват цивилни - Мозли настоя, че платформата е предопределена единствено да служи като управление за ускорение на процеса на взимане на решения за военния личен състав и че не би трябвало да се преглежда като автоматизирана система за ориентиране.

„ Можете да мислите за това като за инструмент за поддръжка “, сподели Мозли. „ Това им разрешава да синтезират големи количества информация, която преди е трябвало да вършат ръчно една по една. “

Въпреки това, Мозли се отклони от обособените армии, когато беше провокиран от BBC по отношение на риска командирите в притиснато време да наредят на офицерите си да одобряват изхода на Maven като подпечатан.

" Това в действителност е въпрос за нашите военни клиенти. Те са тези, които вземат решение политическата рамка, която дефинира кой какво решение би трябвало да вземе ", сподели той. „ Това не е нашата роля. “

От 28 февруари Съединени американски щати са нанесли повече от 11 000 удара против Иран, доста от които са разпознати от Maven.

Адмирал Брад Купър, шеф на американската войска в Близкия изток, приветства AI системите за подкрепяне на чиновниците „ да пресеят големи количества данни за секунди, тъй че нашите водачи да могат да пресекат шума и да вземат по-интелигентни решения по-бързо, в сравнение с врагът може да реагира “.

Но някои се тормозят, че присъединяване на AI в планирането на задачи основава обилни опасности.

" Това приоритизирането на скоростта и мащаба и потреблението на мощ по-късно оставя доста малко време за смислена инспекция на задачите, с цел да се уверите, че те не включват инцидентно цивилни цели ", сподели проф. Елке Шварц от Лондонския университет " Куин Мери ".

" Ако има риск от ликвидиране и кооптирате огромна част от вашето сериозно мислене към програмен продукт, който ще се погрижи за тези неща за вие, тогава просто ставате подвластни от софтуера “, добави тя. „ Това е конкуренция към дъното. “

През последните седмици чиновници на Пентагона се сблъскаха с въпроси дали AI принадлежности като Maven са били употребявани за идентифициране на цели при смъртоносния удар против учебно заведение в иранския град Минаб. Ирански публични лица споделиха, че ударът е умъртвил 168 души, в това число към 110 деца, в деня на откриването на войната.

В Конгреса редица високопоставени демократи приканиха за засилен надзор върху платформите за ИИ като Maven. Представителят Сара Джейкъбс – член на Комитета по въоръжените сили в Камарата на представителите – прикани за ясно прилагани правила и разпореждания по отношение на това по какъв начин и по кое време се употребяват AI системите.

„ Инструментите на AI не са 100% надеждни – те могат да се провалят по фини способи и все пак операторите не престават да им се доверяват “, сподели тя пред NBC News предишния месец.

" Ние сме виновни да наложим строги защитни ограничения при потреблението на ИИ от военните и да подсигуряваме, че човек е в течение на всяко решение за потребление на смъртоносна мощ, защото цената на неправилното решение може да бъде опустошителна за цивилните и военнослужещите, изпълняващи тези задачи. "

Но Мозли отхвърли изказванията, че скоростта на платформата на неговата компания форсира вземането на решения в Пентагона и евентуално основава рискови обстановки. Вместо това той твърди, че скоростта, с която командирите в този момент подхващат дейности, е „ следствие от нарасналата успеваемост “, която Maven е задействал.

Позовавайки се на „ оперативна сигурност “, Пентагонът отхвърли да разяснява, когато се обърна към BBC за това по какъв начин AI системи като Maven ще бъдат употребявани в бъдеще или кой ще носи отговорност, в случай че нещо се обърка.

Но чиновниците в Съединени американски щати наподобява не престават напред с проектите си за по-нататъшно консолидиране на Maven в своите системи.

Миналата седмица осведомителната организация Ройтерс заяви, че Пентагонът е определил Maven като „ публична рекордна стратегия “ – установявайки я като технология, която би трябвало да бъде интегрирана в дълготраен проект в Съединени американски щати военни.

В писмо, получено от Ройтерс, заместник-министърът на защитата Стив Фейнбърг сподели, че платформата ще даде на командирите „ най-новите принадлежности, нужни за разкриване, въздържане и доминиране на нашите съперници във всички области “.

Допълнителен отчет от Jemimah Стадо