Главният технически директор на Пентагона казва, че се е сблъскал с компанията за изкуствен интелект Anthropic за автономна война

Висш чиновник на Пентагона сподели, че разногласието на Anthropic с държавното управление по отношение на потреблението на неговата технология за изкуствен интелект в изцяло самостоятелни оръжия е пристигнал след спор за това по какъв начин AI може да се употребява в бъдещата стратегия за противоракетна защита на президента Доналд Тръмп, която има за цел да сложи оръжия на Съединени американски щати в пространство.

Съединени американски щати Заместник-министърът на защитата Емил Майкъл, основен софтуерен шеф на Пентагона, сподели, че е пристигнал, с цел да прегледа етичните ограничавания на компанията за изкуствен интелект при потреблението на нейния чатбот Claude като ирационална спънка, защото американската войска се стреми да даде по-голяма автономност на рояци въоръжени дронове, подводни транспортни средства и други машини, с цел да се конкурират с съперници като Китай, които биха могли да създадат същото.

„ Имам потребност от благонадежден, постоянен сътрудник, който ми дава нещо, който ще работи с мен във връзка с автономността, тъй като някой ден ще бъде действително и започваме да виждаме по-ранни версии на това “, сподели Майкъл в подкаст, излъчен в петък. „ Имам потребност от някой, който няма да изчезне по средата. “

Коментарите пристигнаха, откакто Пентагонът публично дефинира S an Francisco Anthropic като риск за веригата за доставки, прекъсвайки отбранителната си работа, употребявайки предписание, предопределено да попречи на непознати съперници да навредят на системите за национална сигурност.

Anthropic даде обещание да съди за обозначението, което визира бизнес партньорствата му с други военни реализатори.

Тръмп също по този начин подреди на федералните организации неотложно да спрат да употребяват Claude, макар че президентът републиканец даде на Пентагона шест месеца, с цел да отстрани артикул, който е надълбоко вграден в секретни военни системи, в това число тези, употребявани във войната в Иран.

Anthropic сподели, че се стреми единствено да ограничи технологията си от потребление за две приложения на високо равнище: всеобщо наблюдаване на американци или изцяло самостоятелни оръжия.

Майкъл, някогашен изпълнителен шеф на Uber, разкри своята страна от траялите месеци диалози с основния изпълнителен шеф на Anthropic Дарио Амодей в дълъг диалог с рисковите капиталисти от Силициевата котловина Джейсън Калаканис, Дейвид Фридбърг и Шамат Палихапития, съ-домакини на подкаста „ Всичко в “

Четвъртият съ-домакин, някогашният изпълнителен шеф на PayPal Дейвид Сакс, в този момент е AI цар на Тръмп и не участва в епизода, само че беше вокален критик на Anthropic, в това число за наемането на някогашни чиновници от администрацията на Байдън малко след завръщането на Тръмп в Белия дом предходната година.

Тъй като договарянията изпаднаха в задънена улица предходната седмица, Майкъл атакува Амодей в обществените медии, като сподели, че „ има Бог-комплекс “ и „ не желае нищо повече от това да се опита да управлява персонално “ военните. В подкаста обаче той нарежда разногласието като част от по-широка военна смяна към потреблението на AI.

Майкъл сподели, че военните създават процедури за позволяване на разнообразни равнища на самостоятелност във войната според от представляващия риск.

„ Това е част от дебата, който имах с Anthropic, който е, че имаме потребност от AI за неща като Golden Dome “, сподели Майкъл, споделяйки предполагаем сюжет, че Съединени американски щати имат единствено 90 секунди, с цел да отговори на китайска хиперзвукова ракета.

Човек-оператор на противоракета „ може да не е в положение да разграничи със личните си очи какво преследва “, само че самостоятелна контраофанзива би била невисок риск, „ тъй като е в космоса и вие просто се пробвате да ударите нещо, което се пробва да ви хване. “

В различен сюжет сподели той, „ кой би могъл да се опълчи, в случай че имате военна база, имате куп бойци, които спят, че имате лазер, който може да смъква дронове самостоятелно? “

В отговор на мненията в подкаста, Anthropic уточни по-ранно изказване на Amodei, в което се споделя: „ Anthropic схваща, че Министерството на войната, а не частни компании, взема военни решения. Никога не сме повдигали възражения против съответни военни интервенции, нито сме правили опити за ограничение на потреблението на нашата технология по ad hoc метод. “

Майкъл, заместник-министърът на защитата по проучванията и инженерството, постави клетва през май предходната година и сподели, че е поел „ портфолиото на AI “ на военните през август. Тогава той сподели, че е почнал да изследва договорите на Anthropic – някои от които датират от демократическата администрация на президента Джо Байдън. Майкъл сподели, че е разпитал Anthropic по отношение на изискванията за потребление, които счита за прекомерно ограничаващи.

„ Трябва изискванията на услугата да бъдат рационални по отношение на нашата задача “, сподели той. " Така че започнахме тези договаряния. Отне три месеца и аз трябваше да им дам сюжети, като този образец с китайска хиперзвукова ракета. Те са като " Добре, ще ви дадем изключение за това ". Е, какво ще кажете за този рой дронове? " Ще дадем изключение за това. " И аз си споделих, че изключенията не работят. Не мога да предвидя за идващите 20 години кои (са) всички неща, които можем да използваме AI за. “

Тогава Пентагонът стартира да упорства Anthropic и други компании за изкуствен интелект да разрешават „ изцяло законно потребление “ на тяхната технология, сподели Майкъл.

Anthropic се опълчи на тази смяна, до момента в който неговите съперници – Гугъл, OpenAI и xAI на Илон Мъск – се съгласиха с тях, макар че някои към момента би трябвало да приготвят инфраструктурата си за класифицирана военна работа, сподели Майкъл. Другата спънка за Anthropic беше недопускането на всеобщо наблюдаване на американци.

„ Те не желаеха всеобщо да събираме обществена информация за хора, употребяващи тяхната AI система “, сподели Майкъл, описвайки договарянията като „ безкрайни “.

Anthropic оспори елементи от версията на Майкъл за договарянията и акцентира, че отбраната, която търси, е тясна и не се основава на съществуващи използва на Claude. Следващият стадий от разногласието евентуално ще се случи в съда.