Пентагонът дава ултиматум на фирмата за изкуствен интелект: вдигнете военните ограничения до петък или загубите сделка за $200 милиона

Пентагонът даде на компанията за изкуствен интелект Anthropic до петък да отстрани рестриктивните мерки за това по какъв начин нейната система Claude AI може да бъде употребена от военните, предупреждавайки, че може да анулира контракт за $200 милиона или да предприеме други наказателни стъпки, в случай че компанията откаже, съгласно голям брой източници, осведомени с полемики.

Престрелката избухна, откакто Пентагонът съобщи, че Anthropic е попитал дали неговият артикул е бил употребен във военната интервенция през януари за залавянето на венецуелския водач Николас Мадуро, по метод, който допуска, че компанията може да не утвърди, в случай че е било. Пентагонът упорства, че фирмите за изкуствен интелект би трябвало да разрешават продуктите да бъдат употребявани за всички законни случаи на военна приложимост - без контрол или утвърждение от компанията. 

Anthropic допуска, че нейните червени линии не разрешават нейните артикули да се употребяват за изцяло самостоятелни оръжия или всеобщо наблюдаване на американци. 

Министърът на войната Пийт Хегсет сложи ултиматум по време на среща във вторник в Пентагона с основния изпълнителен шеф на Anthropic Дарио Амодей, макар че Хегсет похвали технологията на компанията и сподели, че отделът желае да продължи да работи с компанията, споделиха източници.

Хегсет сподели на Амодей, че в случай че компанията не разреши на Клод да бъде употребен за всички законни цели, може да се изправи пред преустановяване на неговия контракт с Пентагона, установяване като риск за веригата за доставки — евентуално ограничение на способността му да работи с снабдители на защита — или допустимо позоваване на Закона за отбранителното произвеждане, с цел да се принуди достъпът до технологията, съгласно източници, осведомени със срещата.

Клод сега е единственият модернизиран комерсиален AI модел от този тип, работещ в класифицираните мрежи на Пентагона, по контракт за $200 милиона, предоставен през лятото на 2025 година, доста повишавайки залозите на разногласието.

Служители на Пентагона настояват, че Министерството на защитата не може да зависи от частна компания, която поддържа безапелационни ограничавания върху избрани използва на своята технология, даже в случай че тези използва са законни. По време на срещата Хегсет съпостави обстановката с това, че му е казано, че военните не могат да употребяват съответен аероплан за задача, съгласно източник, осведомен с обмена.

Спорът съставлява ранен тест за това кой управлява парапетите на усъвършенствания AI в американските отбранителни системи - частни компании или Пентагона. Резултатът може да оформи метода, по който военните си партнират с водещи разработчици на AI, до момента в който се стреми да интегрира по-мощни принадлежности за машинно образование в интервенции за национална сигурност.

Anthropic, която се е маркирала като насочена към сигурността AI компания, съобщи, че нейните политики имат за цел да понижат риска от корист, защото усъвършенстваните AI системи стават по-мощни.

Съобщава се, че американската войска е употребила AI инструмента на Anthropic Claude по време на интервенцията, която хванат венецуелски водач Николас Мадуро. (Kurt " CyberGuy " Knutsson)

По време на срещата Амодей мина през тези ограничавания и твърди, че рестриктивните мерки няма да попречат на законните, законни интервенции на военното министерство, съгласно източник, осведомен със срещата. 

Висш чиновник на Пентагона съобщи, че позицията му „ няма нищо общо с всеобщото наблюдаване или самостоятелното ориентиране “, тъй като „ постоянно има забъркан човек и отделът постоянно следва закона “. 

Въпреки че напрежението се увеличи, чиновници от двете страни показаха, че изцяло самостоятелни оръжия понастоящем не се плануват в рамката за законна приложимост на отдела, което допуска, че конфликтът е толкоз обвързван с контрола, колкото и с приложенията на бойното поле.

Министърът на войната Пийт Хегсет е посочен в делото, дружно с други ответници. (Джулия Демари Nikhinson/AP)

По време на срещата във вторник Хегсет категорично уточни евентуалното потребление на Закона за отбранителното произвеждане, прекратяването на съществуващия контракт на Anthropic и опцията компанията да бъде избрана като риск за веригата за доставки, в случай че не се съгласи да разреши нейните артикули да бъдат употребявани за всички законни цели, споделиха източници.

Такива стъпки отразяват две доста разнообразни форми на федерален ливъридж. 

Определянето на риска по веригата на доставки може да ограничи способността на Anthropic да работи с федерални снабдители и реализатори, като алармира, че компанията основава опасения за надеждността или ръководството, до момента в който позоваването на Закона за отбранителното произвеждане би представлявало необичаен опит да се употребяват националните органи по сигурността, с цел да се принуди достъпът до гранични AI системи, считани за сериозни за потребностите на защитата.

Прекратяването на контракта би довело до последици оттатък прекратяването на връзки с снабдител. Тъй като сега Клод е вграден в класифицираните мрежи на Пентагона в съглашение за 200 милиона $, анулирането може да наруши съществуващите работни потоци и да наложи отделът да трансферира сензитивните системи към различен снабдител.

Пентагонът преглежда Anthropic, управителен от Дарио Амодей, нагоре, като „ риск за веригата за доставки “. (Priyanshu Singh/Reuters )

Служители на Пентагона също споделиха, че чатботът Grok AI на Илон Мъск се е съгласил да разреши продуктите му да бъдат употребявани за всички законни цели, в това число евентуална интеграция в класифицирани системи, и че други гранични компании за AI са „ близо “ до сходни договорености. Грок не отговори незабавно на искане за коментар.

Anthropic, в изказване, приписвано на представител на компанията, сподели: „ Главният изпълнителен шеф на Anthropic Дарио Амодей се срещна със секретаря Хегсет в Пентагона тази заран. По време на диалога Дарио изрази благодарност за работата на отдела и благодари на секретаря за неговата услуга. Продължихме добросъвестните диалози по отношение на нашата политика за потребление, с цел да подсигуряваме, че Anthropic може продължете да подкрепяте задачата на държавното управление за национална сигурност в сходство с това, което нашите модели могат надеждно и отговорно да създадат. "

Свързана публикация