Пентагонът се сблъсква с Anthropic относно ограниченията на използването на AI за военни цели и наблюдение:

Пентагонът е в несъгласие с разработчика на изкуствен интелект Anthropic по отношение на защитни ограничения, които биха попречили на държавното управление да разгърне технологията си за самостоятелно ориентиране на оръжия и осъществяване на вътрешно наблюдаване на Съединени американски щати, споделиха пред Reuters трима души, осведомени с въпроса.

Дискусиите съставляват ранен тест за това дали Silicon Valley, с благоволението на Вашингтон след години на напрежение, може да повлияе на метода, по който военните и разследващите служби на Съединени американски щати разполагат все по-мощен AI на бойното поле.

След обширни диалози по контракт на стойност до 200 милиона $, Министерството на защитата на Съединени американски щати и Anthropic са в застой, споделиха шестима души, осведомени с въпроса, поискали анонимност.

Компанията позиция за това по какъв начин могат да се употребяват неговите принадлежности за изкуствен интелект ускори различията сред него и администрацията на Тръмп, детайлностите за които не са докладвани по-рано.

Говорител на Министерството на защитата, което администрацията на Тръмп преименува на Министерството на войната, не отговори неотложно на претенции за коментар.

Anthropic сподели, че неговият AI е „ необятно употребен за задачи за национална сигурност от държавното управление на Съединени американски щати и ние сме в продуктивни полемики с Министерството на войната по отношение на методите да продължим това работа. ”

Спорът, който може да заплаши бизнеса на Pentagon на Anthropic, идва в внимателен миг за компанията.

Базираният в Сан Франциско стартъп се приготвя за вероятно обществено предложение. Той също по този начин е изразходвал обилни запаси за ухажване на бизнеса в региона на националната сигурност на Съединени американски щати и е търсил дейна роля в оформянето на държавната политика за ИИ.

Anthropic е един от дребното огромни разработчици на AI, които получиха контракти от Пентагона предходната година. Други бяха Гугъл на Alphabet, xAI на Илон Мъск и OpenAI.

Насочване на оръжия

В полемиките си с държавни чиновници представители на Anthropic показаха опасения, че неговите принадлежности могат да бъдат употребявани за шпиониране на американци или подкрепяне на насочването на оръжия без задоволително човешки надзор, споделиха някои от източниците на Ройтерс.

Пентагонът настръхна от насоките на компанията. В сходство с меморандума на отдела от 9 януари по отношение на тактиката за AI, чиновници на Пентагона настояват, че би трябвало да могат да разпростират комерсиална AI технология без значение от политиките за потребление на фирмите, стига да съблюдават законите на Съединени американски щати, споделиха източници.

Все отново чиновниците на Пентагона евентуално ще имат потребност от съдействието на Anthropic, с цел да продължат напред. Неговите модели са подготвени да заобикалят предприемането на стъпки, които могат да доведат до щета, а чиновниците на Anthropic ще бъдат тези, които ще преоборудват своя AI за Пентагона, споделиха някои от източниците.

Предпазливостта на Anthropic е провокирала спор с администрацията на Тръмп и преди, оповестява Semafor.

В есе в персоналния си блог изпълнителният шеф на Anthropic Дарио Амодей предизвести тази седмица, че AI би трябвало да поддържа национална защита „ по всички способи, като се изключи тези, които биха ни създали повече като нашите автократични съперници. “

Amodei беше измежду съоснователите на Anthropic, критикуващ смъртоносните стрелби на жители на Съединени американски щати, протестиращи против дейностите за налагане на имиграцията в Минеаполис, което той разказа като „ смут “ в обява на X.

Смъртните случаи ускориха безпокойството измежду някои в Силиконовата котловина по отношение на потреблението на техните принадлежности от държавното управление за евентуални принуждение.