Пентагонът изпраща „най-добрата и окончателна оферта“ на Anthropic за военна употреба на Claude AI: Доклад

Служители на Пентагона в сряда вечерта изпратиха на Anthropic своето „ най-хубаво и дефинитивно предложение “ в договарянията по отношение на потреблението от военните на технологията за изкуствен интелект на компанията, заяви CBS News, базирайки се на източници, осведомени с полемиките.

Новинарският канал съобщи, че не е ясно незабавно дали новото предложение значително промени предходните претенции на държавното управление или дали Anthropic се е съгласил с изискванията.

Разговорите идват преди краен период, натрапен от държавното управление, избран от министъра на защитата Пийт Хегсет, който даде на стартирането на AI до петък вечерта да даде това, което Пентагонът разказва като цялостно законно потребление на неговата технология - или рискува да загуби бизнеса си с американската войска.

Заплаха от загуба на контракт и етикет „ риск по веригата на доставки “

Ако Anthropic не се съобрази, следствията могат да надвишават загубата на контракта с Пентагона.

Висш чиновник на Пентагона сподели пред CBS News, че компанията ще се сблъска „ освен със загуба на бизнес, само че ще бъде етикетирана като риск за веригата на доставки “. Anthropic да се придържа към условията на военните. Този ход евентуално би дал на държавното управление разширени пълномощия да изисква съдействие в полза на националната сигурност.

Anthropic получи контракт за 200 милиона $ от Пентагона през юли за създаване на качества за изкуствен интелект, предопределени да подобрят задачите на националната сигурност на Съединени американски щати.

Спорът се концентрира върху quardrails за потребление на AI

В центъра на договарянията е моделът на AI на Anthropic, Claude.

Изданието, базирайки се на източници, също по този начин съобщи, че Anthropic неведнъж е изискал от чиновници на защитата да се съгласят на съответни защитни парапети, които биха лимитирали Claude да организира маса наблюдаване на американци. Служители на администрацията на Тръмп възразиха, че такова наблюдаване е нелегално и че Пентагонът работи в границите на закона.

Главният изпълнителен шеф на Anthropic Дарио Амодей също настоя да подсигурява, че Клод не се употребява за взимане на дефинитивни решения за ориентиране във военни интервенции без човешки надзор, съгласно източник, осведомен с договарянията, сподели изданието.

Източникът означи, че Клод, сходно на други AI системи, е не е ваксиниран против халюцинации и може да не е задоволително благонадежден, с цел да избегне евентуално смъртоносни неточности, в това число непреднамерена ескалация или неуспех на задача без човешка преценка.

Крайният период е петък

По време на среща в Пентагона във вторник сутринта Хегсет даде на Амодей до петък да даде подписан документ, предоставящ цялостен достъп до AI модела на Anthropic.