Какво стои зад враждата между Антропик и Пентагона

Вашингтон — Пентагонът даде ултиматум на Антропик тази седмица: Дайте на американската войска безкрайно потребление на своята AI технология или ще бъде изправена пред възбрана за всички държавни контракти. 

В центъра на казуса е въпросът кой управлява по какъв начин се употребяват моделите на изкуствен интелект, Пентагона или основният изпълнителен шеф на компанията.

Договорите на Пентагона за AI 

Пентагонът възложи на Anthropic контракт за 200 милиона $ през юли за създаване на качества за AI, които биха подобрили националната сигурност на Съединени американски щати. 

Конкурентите на Anthropic, включително OpenAI, Google и xAI също получиха контракти за $200 милиона от Пентагона предходната година. 

Anthropic сега е единствената компания за изкуствен интелект, чийто модел е разпрострат в секретните мрежи на Пентагона, посредством партньорство с колоса за разбор на данни Palantir.

Висш чиновник на Пентагона сподели пред CBS News, че Grok, която е благосъстоятелност на xAI на Илон Мъск, е съгласна да бъде употребена в класифицирана среда, а други компании за изкуствен интелект са близо. 

Пентагонът разгласи предишния месец, че се стреми да форсира потреблението на AI, заявявайки, че технологията може да помогне на военните „ бързо да преобразуват разследващите данни “ и „ да създадат нашите Warfighters по-смъртоносни и ефикасни “. технология, прочут като Клод, по време на интервенцията за залавяне на някогашния президент на Венецуела Николас Мадуро през януари. 

Anthropic неведнъж е желал от Пентагона да се съгласи с избрани защитни огради, измежду които ограничаване върху потреблението на Claude за осъществяване на всеобщо наблюдаване на американци, споделиха източници пред CBS News. 

И компанията желае също по този начин да подсигурява, че Клод не се употребява от Пентагона за дефинитивни решения за ориентиране във военни интервенции без човешко присъединяване, сподели източник, осведомен с въпроса. Клод не е ваксиниран от халюцинации и не е задоволително благонадежден, с цел да избегне евентуално смъртоносни неточности, като непреднамерена ескалация или неуспех на задача без човешка преценка, сподели източникът.  

Когато беше помолен за коментар, почитан чиновник на Пентагона сподели: „ Това няма нищо общо с всеобщото наблюдаване и потреблението на самостоятелни оръжия. Пентагонът е издал единствено законни заповеди. “

Служители на Пентагона са изразили угриженост пред Anthropic, че защитните огради на компанията могат да попречат на сериозни дейности, като да вземем за пример реагиране на междуконтинентална балистична ракета, изстреляна към Съединените щати Щати.

Всички ограничавания, наложени от компанията, „ могат да основат динамичност, в която да стартираме да ги използваме и да свикнем с метода, по който работят тези модели, и когато се наложи да го използваме в незабавна обстановка, ние сме възпрепятствани да го използваме “, сподели Емил Майкъл, заместник-министър на защитата за проучвания, на събитие през февруари.

По въпроса по кое време AI се употребява за удар или ликвидиране на военни цели и прави неточност, кой е виновен – военните или компанията за изкуствен интелект — чиновник на защитата сподели: Законността е отговорност на Пентагона като краен консуматор.

Какво споделят висшите водачи  

Главният изпълнителен шеф на Anthropic Дарио Амодей беше вокален в изразяването на загрижеността си по отношение на евентуалните рискове от изкуствения разсъдък и концентрира марката на компанията към сигурността и прозрачността. 

В дълго есе предишния месец Амодей предизвести за капацитета за корист с технологиите, като написа, че „ мощен изкуствен интелект, преглеждащ милиарди диалози от милиони хора, може да реши публичните настроения, да открие образуването на гнезда на непочтеност и да ги изкорени, преди да са се разраснали. “ 

„ Демокрациите нормално имат защитни ограничения, които предотвратяват насочването на военния и разследващия им уред против личното им население, само че защото инструментите на ИИ изискват толкоз малко хора, с цел да работят, има капацитет те да заобиколят тези защитни ограничения и нормите, които ги поддържат. Също по този начин си коства да се означи, че някои от тези защитни ограничения към този момент последователно ерозират в някои демокрации “, написа той. 

Amodei от дълго време поддържа това, което той разказва като „ рационално контролиране на ИИ “, в това число правила, които изискват от фирмите за ИИ да бъдат транспарантни по отношение на рисковете, подбудени от техните модели, и всички стъпки, подхванати за тяхното намаляване.

Междувременно администрацията на Тръмп избира по-леко допиране и твърди, че строгите правила за ИИ могат да задушат нововъведенията и да затруднят конкуренцията на американската промишленост за ИИ. Администрацията се опита да блокира това, което назовава „ несъразмерни “ регулации на държавно равнище. В един миг предходната година рисковият капиталист и съветникът по изкуствен интелект и крипто в Белия дом Дейвид Сакс упрекна Anthropic в „ всяване на боязън “ и допусна, че ползата му към регулациите на изкуствения разсъдък е самоцелен.

В тирада през януари министърът на защитата Пийт Хегсет осмива това, което той счита за „ вливания на обществена правдивост, които лимитират и объркват потреблението на тази технология “. 

" Няма да използваме AI модели, които няма да ви разрешат да водите войни ", съобщи Хегсет. „ Ние ще преценяме моделите на ИИ единствено по този стандарт; в действителност точни, подобаващи за задачата, без идеологически ограничавания, които лимитират законните военни приложения. ИИ на Министерството на войната няма да бъде разсънен. Ще работи за нас. Ние построяваме подготвени за война оръжия и системи, а не чатботове за факултет на Ivy League. “ 

Какво следва в сагата Антропик против Пентагона

Хегсет даде на Антропик до петък да се съгласи да даде на армията на Съединени американски щати безкрайно потребление на технологията си или рискува да бъде включена в черния лист, споделиха източници, осведомени със обстановката, пред CBS News. 

Длъжностни лица от Пентагона обмислят да се базират на Закона за отбранителното произвеждане, с цел да принудят Anthropic да се съобрази с него от съображения за национална сигурност.

Или, в случай че не може да се реализира съглашение, чиновници от защитата са разискали оповестяването на компанията за „ риск за веригата за доставки “, с цел да я изтласкат от държавното управление, съгласно източниците.