Докато враждата между Пентагона и Anthropic рискува да се разгори, военните казват, че са направили компромиси с гиганта за изкуствен интелект

Тъй като партньорството на американската войска с колоса за изкуствен интелект Anthropic е на ръба на колапс, висшият софтуерен чиновник на Пентагона сподели пред CBS News, че отделът е предложил взаимни отстъпки, с цел да реализира договорка с компанията.

Пентагонът даде Anthropic до петък в 17:01. или да разреши на военните да употребяват AI модела на компанията за „ всички законни цели “, или да рискува да загуби рентабилен контракт с Пентагона. Стартиращата компания с изкуствен интелект е потърсила парапети, които категорично не разрешават нейния мощен модел Claude да бъде употребен за осъществяване на всеобщо наблюдаване на американци или за осъществяване на военни интервенции независимо.

Главният софтуерен шеф на Пентагона Емил Майкъл сподели пред CBS News в четвъртък, че военните са „ създали някои доста положителни отстъпки “.

По-специално, Министерството на защитата предложи да „ запише документално “, че федералните закони към този момент предотвратяват военни от провеждането на всеобщо наблюдаване на американците и че вътрешните политики лимитират метода, по който военните могат да употребяват самостоятелни оръжия, съгласно Майкъл. Той също по този начин сподели, че военните са поканили Anthropic да взе участие в неговия ръб по нравственос на AI.

Попитан за какво военните няма да заявят категорично документално, че моделът на Anthropic не може да се употребява за всеобщо наблюдаване на американци или за взимане на дефинитивни решения за ориентиране без човешко присъединяване, Майкъл сподели, че тези използва на AI към този момент са неразрешени от закона и от политиките на Пентагона.

„ На някакво равнище би трябвало да се доверите на вашите военни, с цел да постъпите вярно ", сподели Майкъл.

" Но би трябвало да сме готови за бъдещето, би трябвало да сме готови за това, което прави Китай ", сподели Майкъл. „ Така че в никакъв случай няма да кажем, че няма да можем да се защитим документално пред компания. “ 

Ако военните и Anthropic не реализиран договорка до крайния период в петък, военните възнамеряват да пресечен партньорството си с компанията и да я дефинират като риск за веригата за доставки, сподели представителят на Пентагона Шон Парнел по-рано в четвъртък. Длъжностни лица също обмислят да се базират на Закона за отбранителното произвеждане, с цел да накарат Anthropic да се придържа към настояванията на военните, споделиха източници пред CBS News. 

Майкъл не удостовери, че може да се употребява Законът за отбранителното произвеждане, само че сподели, че „ нито една компания няма да извади програмен продукт, който се употребява в този отдел, до момента в който не разполагаме с опция “. Майкъл добави, че работи върху партньорства с различни компании за изкуствен интелект.

Изложен на риск за Anthropic е нейният статут на единствената компания за изкуствен интелект, чийто модел е внедрен в класифицираните мрежи на Пентагона, посредством партньорство с колоса за разбор на данни Palantir. Anthropic получи контракт за 200 милиона $ с Министерството на защитата предишното лято, с цел да разгърне опциите си за изкуствен интелект за възстановяване на националната сигурност.

Враждата акцентира по-широкото противоречие сред политиците и софтуерните компании за това по какъв начин най-добре да се понижат евентуалните опасности, подбудени от изкуствения разсъдък.

Главният изпълнителен шеф на Anthropic Дарио Амодей от дълго време приказва за евентуалните рискове от неограничения изкуствен интелект, и е трансформирал фокуса върху сигурността и прозрачността в съществена част от идентичността на своята компания. Той също по този начин поддържа това, което той назовава „ рационално контролиране на изкуствения разсъдък “.

В случая на своя контракт с Пентагона, Anthropic желае да подсигурява, че неговият модел Claude не се употребява за дефинитивни решения за военно ориентиране, сподели пред CBS News източник, осведомен с въпроса. Клод не е ваксиниран от халюцинации и не е задоволително благонадежден, с цел да избегне евентуално съдбовни неточности, като непреднамерена ескалация или неуспех на задача без човешка преценка.

Междувременно администрацията на Тръмп твърди, че строгите регулации за изкуствен интелект могат да задушат нововъведенията и да затруднят конкуренцията на американската промишленост за изкуствен интелект и предизвести против това, което назовава „ събудени “ модели на изкуствен интелект. В тирада предишния месец министърът на защитата Пийт Хегсет даде обещание, „ няма да използваме AI модели, които няма да ви разрешат да водите войни. “

Майкъл сподели пред CBS News, че несъгласието е частично идеологическо, „ и методът, по който разказвам тази идеология е: те се опасяват от силата на AI. “ 

Той сподели, че военните се интересуват единствено от законното потребление на ИИ и се стремят да го „ третират като всяка друга технология “ — което значи, че в случай че не се употребява за законни цели, „ това е наша сметка “.

„ Не можете да оставите разпоредбите и политиките на армията и държавното управление на Съединените щати в ръцете на една частна компания “, сподели Майкъл.

CBS News се свърза с Anthropic за коментар.