Anthropic спира всякакъв достъп до модела Mythos, след като правителството на САЩ забрани използването на чужди граждани

Вижте всички тематики Връзката е копирана! Следвайте Правителството на Съединени американски щати подреди на Anthropic да спре достъпа на задгранични жители до своите най-способни AI модели заради опасения за националната сигурност по отношение на уязвимости в киберсигурността. Anthropic се преценява, само че оспорва директивата, като твърди, че стандартът ще спре всички внедрявания на нови гранични модели в промишлеността на ИИ. Компанията има вяра, че държавното управление е работило, откакто е научило за техника за джейлбрейк, която употребява релативно незначителни уязвимости, които други модели също могат да открият.

Компанията за изкуствен интелект Anthropic деактивира достъпа на клиентите до своите най-способни системи, откакто държавното управление на Съединени американски щати й подреди да спре всяка приложимост от задгранични жители, се споделя в изказване на Anthropic в петък вечерта. Този ход е последният от поредност неподходящи дейности на администрацията на Тръмп, ориентирани към компанията.

Широката инструкция за моделите Mythos 5 и Fable 5 на Anthropic е едно от най-обхватните дейности, подхванати от държавното управление в отговор на разширените благоприятни условия на AI модел.

Anthropic сподели, че държавното управление на Съединени американски щати му е дало директивата, базирайки се на проблеми с „ националната сигурност “.

Компанията сподели, че държавното управление не е предоставило съответни детайлности по отношение на опасенията за националната сигурност, макар че счита, че държавното управление е „ разбрало “ за способ за „ разтрошаване “ на Fable 5 или заобикаляне на вътрешните му защитни ограждения.

„ Прегледахме проява на тази характерна техника, употребена за идентифициране на дребен брой известни преди този момент незначителни уязвимости “, сподели Anthropic в своето изказване. „ Всички тези уязвимости наподобяват относително елементарни и открихме, че други обществено налични модели също могат да ги открият, без да се изисква байпас. “

Anthropic сподели, че е въвела няколко защитни ограничения за най-новите си модели, с цел да „ доста понижи вероятността “ те да бъдат „ злоупотребявани за задания, свързани с киберсигурността “, отбелязвайки, че са получили недоволства от консуматори, че тези парапети са прекомерно строги. Anthropic също означи, че е работил с държавното управление на Съединени американски щати за защитните ограничения на „ аления екип “ на Fable и че нито един модел не е изцяло резистентен на джейлбрейк.

Anthropic сподели, че макар че съблюдават директивата и отстраняват достъпа до моделите за всички, „ ние не сме съгласни, че намирането на стеснен евентуален джейлбрейк би трябвало да бъде причина за евакуиране на търговски модел, разпрострат на стотици милиони хора. “

„ Ако този стандарт се приложи в цялата промишленост, ние имаме вяра, че той всъщност ще спре всички внедрявания на нови модели за всички снабдители на гранични модели “, добави компанията.

Ограничението значи, че доста задгранични жители, работещи за Anthropic, няма да могат да допират тези модели.

Министерството на търговията, което издаде ограничаването, не отговори незабавно на искане за коментар. Axios заяви, че директивата на държавното управление ще изисква от Anthropic да получи лиценз „ за експорт, реекспорт или вътрешен трансфер на тези модели на Anthropic “.

Най-новият модел на Anthropic, Mythos, изплаши държавното управление на Съединени американски щати и Уолстрийт с опциите си, които съгласно специалисти могат да употребяват уязвимостите в киберсигурността с невиждана скорост. Моделът се смяташе за толкоз кадърен, че Anthropic в началото ограничи стартирането му до група от основни сътрудници, с цел да „ отбрани най-критичния програмен продукт в света “. Anthropic пусна Fable 5 предходната седмица като версия на Mythos, която е безвредна за обща приложимост.

Моделът също по този начин оказа помощ за разпалването на неотдавнашната изпълнителна заповед на администрацията на Тръмп по отношение на изкуствения разсъдък, която изисква от фирмите непринудено да споделят нови модели, за които се счита, че имат усъвършенствани кибер благоприятни условия, с държавното управление до 30 дни, преди да дават достъп на други сътрудници.

Един източник, осведомен с ранните разисквания на изпълнителната заповед, сподели, че концепцията за възбрана на непознати жители да работят по такива модели е била препоръчана за тази заповед, само че концепцията по този начин и не е превърната в план.

Правителството имаше комплицирани връзки с Anthropic. По-рано тази година администрацията на Тръмп сложи компанията в черен лист, като я разгласи за „ риск по веригата на доставки “ във военните покупко-продажби поради настояването на Anthropic Пентагонът да включи избрани защитни парапети за потреблението на ИИ от държавното управление във военни дейности. Anthropic съди държавното управление за определянето му като „ невиждано и нелегално “ и означи най-малко една ранна победа в настоящия случай.

Въпреки директивата на президента Доналд Тръмп по време на определянето на цялото федерално държавно управление да прекрати работата с продуктите на Anthropic, Белият дом поддържа тясна връзка с компанията и някои елементи на федералното държавно управление са намерили заобиколно решение, с цел да продължат да имат достъп до моделите на Anthropic, изключително след стартирането на Mythos.

Anthropic също беше надълбоко зает в подпомагането на правенето на последната изпълнителна заповед, споделиха пред CNN източници, осведомени със обстановката, и нейните ръководители бяха поканени в Белия дом за гала по сключване, която в последна сметка беше анулирана в последния миг.