Anthropic казва „не“ на искането на Пентагона за неограничено използване на неговите AI технологии

Публичният конфликт сред администрацията на Тръмп и Anthropic е в задънена улица, така като военните чиновници изискват компанията за изкуствен интелект да промени етичните си политики до петък или рискува да навреди на бизнеса си.

Главният изпълнителен шеф на Anthropic Дарио Амодей начерта остра алена линия 24 часа преди крайния период, обявявайки компанията си „ не мога с чиста съвест да се съглася “ с окончателното искане на Пентагона да разреши безкрайно потребление на неговата технология.

Anthropic, производител на чатбота Claude, може да си разреши да загуби контракт за защита. Но ултиматумът тази седмица от министъра на защитата Пийт Хегсет сложи по-широки опасности в пика на стремителния напредък на компанията от малко известна изследователска лаборатория за компютърни науки в Сан Франциско до един от най-ценните започващи компании в света.

Ако Amodei не помръдне, военните чиновници предизвестиха, че освен ще отдръпват контракта на Anthropic, само че и ще ги „ сметнат за риск за веригата на доставки “, означение, което нормално се слага върху задгранични съперници, което може да провали сериозните партньорства на компанията с други бизнеси.

И в случай че Amodei се поддаде, той може да загуби доверие в процъфтяващата AI промишленост, изключително от най-хубавите гении, привлечени към компанията поради обещанията й за отговорно създаване на по-добър от индивида AI, който без защитни ограничения може да сътвори пагубни опасности.

Anthropic сподели, че изиска строги гаранции от Пентагона, че Клод няма да бъде употребен за всеобщо наблюдаване на американци или в изцяло самостоятелни оръжия. Но след месеци на частни диалози, прераснали в обществен спор, в изказване от четвъртък се споделя, че новият език на контракта, „ образуван като компромис, е комбиниран с правни правила, които биха разрешили тези защитни ограничения да бъдат подценени по избор. “

Това беше откакто Шон Парнел, основният представител на Пентагона, разгласява в обществените медии, че „ няма да позволим на НИКОЯ компания да диктува изискванията във връзка с това по какъв начин вземаме оперативни решения “ и добави компанията има „ до 17:01 ч. ET в петък, с цел да реши “ дали ще извърши условията или ще понесе следствията.

Емил Майкъл, заместник-министърът на защитата по проучванията и инженерството, по-късно атакува Amodei, потвърждавайки на X, че той „ има комплекс от Бог “ и „ не желае нищо повече от това да се опита персонално да управлява армията на Съединени американски щати и е добре да излага на риск сигурността на нашата нация. “

Вземете изключителни национални вести

Това известие не откри отзив в огромна част от Силиконовата котловина, където пораства броят на техническите служащи от върха на Anthropic противниците, OpenAI и Гугъл, показаха поддръжка за позицията на Amodei късно в четвъртък в отворено писмо.

OpenAI и Гугъл, дружно с xAI на Илон Мъск, също имат контракти за доставка на своите AI модели на военните.

„ Пентагонът договаря с Гугъл и OpenAI, с цел да се опита да ги накара да се съгласят с това, което Anthropic отхвърли “, се споделя в отвореното писмо. „ Те се пробват да разделят всяка компания със боязън, че другата ще се съобщи. “

Също по този начин пораждат опасения по отношение на метода на Пентагона, депутатите републиканци и демократи и някогашен водач на самодейностите за изкуствен интелект на Министерството на защитата.

„ Написването на Anthropic на Anthropic провокира пикантни заглавия, само че най-после всички губят “, написа пенсионираният военачалник от военновъздушните сили Джак Шанахан в обява в обществените медии.

Шанахан се сблъска с друга вълна от опозиция на софтуерните служащи по време на първата администрация на Тръмп, когато управлява Maven, план за потребление на AI технология за анализиране на фрагменти от дронове и ориентиране на оръжия. Толкова доста чиновници на Гугъл стачкуваха против присъединяване му в Project Maven по това време, че софтуерният колос отхвърли да възобнови контракта и след това се ангажира да не употребява AI в оръжията.

„ Тъй като бях в средата на Project Maven & Гугъл, рационално е да се допусна, че ще взема страната на Пентагона тук “, написа Шанахан в четвъртък в обществените медии. „ И въпреки всичко съчувствува на позицията на Anthropic. Повече, в сравнение с бях на Гугъл през 2018 година “

Той сподели, че Claude към този момент се употребява необятно в държавното управление, в това число в класифицирани настройки, и алените линии на Anthropic са „ рационални “. Той сподели, че AI огромните езикови модели, които зареждат чатботове като Claude, също „ не са подготвени за най-хубавото време в настройките на националната сигурност “, изключително не за изцяло самостоятелни оръжия.

„ Те не се пробват да си играят сладко тук “, написа той.

Parnell съобщи в четвъртък, че Пентагонът желае да „ употребява модела на Anthropic за всички законни цели “ и сподели, че отварянето на потреблението на технологията би попречило на компанията да „ застрашаване на сериозни военни интервенции “, макар че нито той, нито други длъжностни лица са прецизирали по какъв начин желаят да употребяват технологията.

Военните „ нямат интерес да употребяват AI за осъществяване на всеобщо наблюдаване на американци (което е незаконно), нито желаеме да използваме AI за създаване на самостоятелни оръжия, които работят без човешко присъединяване “, написа Парнел.

Когато Хегсет и Амодей се срещнаха във вторник, военни чиновници предизвестиха, че те биха могли да определят Anthropic като риск за веригата за доставки, да анулират контракта му или да се базират на закон от епохата на Студената война наречен Закон за отбранителното производство за да дадат на военните по-широки пълномощия да употребяват продуктите им, даже в случай че компанията не утвърди.

Amodei сподели в четвъртък, че „ последните две закани са по своята същина спорни: едната ни етикетира като риск за сигурността; другата етикетира Клод като от значително значение за националната сигурност. " Той сподели, че се надява Пентагонът да премисли смисъла на Клод за военните, само че в случай че не, Anthropic „ ще работи, с цел да разреши равномерен преход към различен снабдител. “