Pete Hegseth се среща с главния изпълнителен директор на Anthropic относно несъгласия относно AI парапети за военна употреба

Вижте всички тематики Връзката е копирана! Следвайте

Главният изпълнителен шеф на Anthropic Дарио Амодей се среща с министъра на защитата Пийт Хегсет през днешния ден, до момента в който Пентагонът заплашва компанията за изкуствен интелект с нещо, което може да се равнява на черен лист на държавното управление.

Въпросът е защитните парапети, сложени от Anthropic на своите модели с изкуствен интелект. Пентагонът, който има контракт за 200 милиона $ с Anthropic, желае компанията да отстрани рестриктивните мерки си за военните, с цел да може да употребява модела за „ всяка законна приложимост “, съгласно източник, осведомен с полемиките.

Но Anthropic има опасения по отношение на два въпроса, които не желае да изостави, сподели източникът: следени от AI оръжия и всеобщо вътрешно наблюдаване на американски жители. Според осведомен източник Anthropic има вяра, че AI не е задоволително благонадежден, с цел да ръководи оръжия и към момента няма закони или разпореждания, които да обгръщат по какъв начин AI може да се употребява при всеобщо наблюдаване.

Преговорите не престават от няколко месеца, сподели източникът, само че през последните седмици разногласието стана обществен, защото започнаха да се появяват известия за напрежението сред двете страни.

След това предходната седмица Axios заяви, че Хегсет е покрай преустановяване на контракта на Пентагона с Anthropic и установяване на компанията като „ рискова верига за доставки “. Това название, нормално непокътнато за компании, обсъждани като разширения на задгранични съперници като Русия или Китай, може съществено да повлияе на бизнеса на Anthropic, защото всеки от нейните корпоративни клиенти с държавни контракти ще би трябвало да се увери, че тяхната държавна работа не визира инструментите на Anthropic.

„ Ние водим продуктивни диалози, добросъвестно, с (Министерството на войната) за това по какъв начин да продължим тази работа и да поправяме тези комплицирани проблеми “, сподели представител на Anthropic.

„ Anthropic се ангажира да употребява граничен AI в поддръжка на националната сигурност на Съединени американски щати “, сподели представителят. „ Ето за какво ние бяхме първата гранична компания за изкуствен интелект, която сложи моделите си в класифицирани мрежи и първата, която даде персонализирани модели за клиенти на националната сигурност. “

Представител на Пентагона удостовери пред CNN, че срещата с Anthropic се е състояла, само че не разяснява повече.

Anthropic от дълго време се нарежда като AI компания, която е най-загрижена за сигурността на AI. Неговите създатели бяха всички някогашни чиновници на OpenAI, които напуснаха компанията заради несъгласия по отношение на посоката на основателя на ChatGPT, метода към сигурността и темпото на развиване на AI. Anthropic също неотдавна разгласи, че дава 20 милиона $ на политическа група, която води акция за по-голяма регулация на AI.

Каанита Айер от CNN способства за този отчет.