Регулирането на AI е бъркотия и Anthropic е хванат на прицела

Вижте всички тематики Връзката е копирана! Следвайте Администрацията на Тръмп наложи възбрана за експорт на най-новите модели на Anthropic няколко дни след стартирането им заради опасения за националната сигурност. Anthropic оспорва сериозността на отговора на държавното управление на бягството от пандиза. Експертите предизвестяват, че неналичието на транспарантна регулаторна рамка за ИИ може да задуши американските нововъведения и да сътвори рискови прецеденти.

В рамките на дни след стартирането си, най-усъвършенстваният обществен AI модел на Anthropic беше ненадейно изтеглен от клиентите.

Администрацията на Тръмп назова модела риск за националната сигурност, откакто беше известен за бягство от пандиза или метод да се заобиколят вътрешните му защитни огради. Той сложи възбрана за експорт на модела, което забрани на някои от личните чиновници на Anthropic да го употребяват.

Anthropic обаче споделя, че уязвимостта не е съображение за такава рискова реакция.

Различните гледни точки акцентират обърканото положение на регулирането на ИИ в Съединените щати. Правителството би трябвало да взе участие в диалозите за сигурността на ИИ, изключително тези, които въздействат върху националната сигурност, споделят специалисти. Но последният спор сред Anthropic и държавното управление изведе на повърхността по-широка угриженост: няма транспарантна, поредна рамка за контролиране на ИИ – и резултатът може да задуши промишлеността в Съединените щати.

И Anthropic, нажежената лаборатория за изкуствен интелект, струваща близо трилион $, която е на ръба да стане обществена, беше в центъра на тези напрежения.

Последното деяние на държавното управление идва, откакто компанията за изкуствен интелект не се съгласи с Пентагона по отношение на желаните модификации на защитните парапети на нейните системи за изкуствен интелект за потребление от военните – което докара до Министерството на защитата да сложи Anthropic в черния лист, като го дефинира като „ риск за веригата за доставки “. След това най-новият модел на AI, Mythos, повдигна необятно публикувани опасения за киберсигурността, защото компанията сподели, че е извънредно умела в намирането на пропуски в сигурността. Anthropic пусна цялостната версия на Mythos единствено на определена група сътрудници, преди да пусне обществена версия с парапети, наречена Fable 5 на 9 юни.

Сега администрацията на Тръмп споделя, че някои от тези парапети са се провалили, което евентуално разрешава на хакерите да прибавят извънредно кадърен инструмент към своя боеприпас. Anthropic отдръпна целия достъп както до Mythos, по този начин и до Fable по-рано този месец, с цел да съблюдава директивата на държавното управление.

Това накара някои специалисти да призоват за по-ясен прозорец за това по какъв начин държавното управление взема решения за киберсигурността - или рискува Америка да изостане в световната конкуренция във въоръжаването с ИИ.

„ Проблемът не е, че държавното управление е упражнявало независимост на действие; националната сигурност изисква такава независимост “, написа в есе Джесика Тилипман, асоцииран декан по закон за държавните поръчки в университета „ Джордж Вашингтон “. „ Това, което прави усещане, е неналичието на какъвто и да е логичен развой. “

Anthropic и администрацията се срещнаха, с цел да се опитат да разрешат казуса. Тръмп сподели на срещата на върха на Г-7 в сряда, че договарянията с Anthropic „ вървят добре “. Тръмп сподели на Axios в изявление, оповестено в петък, че към този момент не гледа на компанията като на опасност за националната сигурност. — Е, не в този момент, само че може би преди седмица.

Белият дом насочи CNN към Министерството на търговията, което не отговори на настояванията за коментар.

Къде стои регулирането на ИИ през днешния ден

Администрацията на Тръмп е възприела лек метод към регулирането на изкуствения разсъдък до момента, надявайки се да насърчи напредъка на ИИ, с цел да резервира Съединени американски щати пред съперници като Китай.

Администрацията анулира политиките от епохата на Байдън, като наложителните прагове за докладване на сигурността, в интерес на доброволни рамки и преференции от държавния закон. През март Тръмп издаде национална политическа рамка за AI, която служи като проект и набор от рекомендации за Конгреса за създаване на политики за AI. Но препоръчаният проект гласи, че Конгресът не би трябвало да контролира ИИ посредством обединен орган, създаващ правила, а вместо това би трябвало да го прави посредством характерни за бранша регулаторни органи. Той също по този начин споделя, че организациите за национална сигурност би трябвало да схванат граничните модели на ИИ и техните евентуални опасности за сигурността.

Администрацията издаде изпълнителна заповед по-рано този месец, като изиска от фирмите за изкуствен интелект непринудено да споделят своите най-модерни модели с държавното управление за инспекция на киберсигурността, преди да ги пуснат обществено. Но даже и тази поръчка беше отсрочена в последния миг, откакто Тръмп сподели, че се тормози, че ще „ попречи “ на американските нововъведения в ИИ.

Някои щати одобриха свои лични закони и съдиха компании за изкуствен интелект заради опасения за сигурността. Калифорния, да вземем за пример, одобри закон, изискващ от фирмите за изкуствен интелект да издават рискови рамки, да рапортуват за проблеми с сигурността и да пазят лицата, подаващи сигнали. Флорида стартира престъпно следствие на OpenAI и съди компанията. Щатът твърди, че OpenAI е навредил на деца и общи консуматори и че ChatGPT може да е подкрепил и подбудил всеобщата пукотевица в държавния университет на Флорида предходната година. OpenAI отхвърли тези обвинявания и споделя, че се отнася съществено към сигурността посредством доста разнообразни защитни огради и начинания.

Правителството би трябвало да помогне за установяването на протоколи за сигурност на ИИ по пореден, почтен и явен метод, сподели Брад Карсън, началник на Public First, двупартиен про-AI сигурност супер PAC.

„ В момента имате ad hoc, персонализиран, непрогледен, евентуално незаконен метод “, сподели той.

Антропичен в средата

Правителството не даде на Anthropic съответни детайлности за опасенията за националната сигурност, които доведоха до възбраната за надзор върху износа на Fable 5 и Mythos 5, се споделя в изказване на компанията от 12 юни. Първоначално на Anthropic бяха дадени единствено 90 минути, с цел да изтегли своите модели, сподели източник, непосредствен до компанията, пред CNN.

Десетки откриватели по киберсигурност, AI бизнесмени и корпоративни ръководители на