Прочетете пълния препис на нашето интервю с главния изпълнителен директор на Anthropic Дарио Амодей

Главният изпълнителен шеф на Anthropic Дарио Амодей седна с CBS News за извънредно изявление в петък, часове откакто министърът на защитата Пийт Хегсет разгласи компанията за риск за веригата на доставки за националната сигурност, което лимитира военните реализатори да вършат бизнес с колоса за изкуствен интелект. 

Вижте по-долу за цялостния дубликат:

ДЖО ЛИНГ КЕНТ: Добре. Благодаря ви, че направихте това с нас през днешния ден.

ДАРИО АМОДЕЙ: Благодаря... благодаря, че ме приехте.

ДЖО ЛИНГ КЕНТ: Оценяваме, че отделихте време. Вие сте Дарио Амодей, основен изпълнителен шеф на Anthropic. Така ли е?

ДАРИО АМОДЕЙ: Така е, да.

ДЖО ЛИНГ КЕНТ: Страхотно. Е, аз... първият ми въпрос към вас е за какво не пуснете AI на Anthropic без ограничавания за държавното управление на Съединени американски щати?

ДАРИО АМОДЕЙ: Да. Така че, знаете ли, може би би трябвало да архивираме малко за малко подтекст. Така че, знаете ли, Anthropic в действителност е най-подвижната от всички компании за изкуствен интелект в работата с държавното управление на Съединени американски щати и с армията на Съединени американски щати. Ние бяхме първата компания, която, знаете, сложи нашите модели в класифицирания облак.

Ние бяхме първата компания, която направи потребителски модели за задачите на националната сигурност. Ние сме разгърнати в разследващата общественост и военните за приложения като кибернетични, нали разбирате, интервенции за бойна поддръжка, разнообразни неща като това. И, знаете ли, повода да създадем това е, знаете ли, че аз-- аз имам вяра, че би трябвало да защитим страната си.

Вярвам, че би трябвало да защитим страната си от автократични съперници като Китай и като Русия. И по този начин ние бяхме... бяхме доста, знаете ли, бяхме доста склонни напред. Имаме забележителен, нали разбирате, екип от социална сигурност - екип от обществения бранш.

Но, знаете ли, постоянно съм вярвал, че, знаете ли, когато се пазиме против нашите автократични съперници, би трябвало да го вършим по способи, които пазят нашите демократични полезности и резервират нашите демократични полезности. И по този начин казахме на Министерството на войната, че сме съгласни с всички случаи на приложимост, главно 98% или 99% от случаите на приложимост, които те желаят да създадат, като се изключи два, за които сме загрижени.

Едният е вътрешното всеобщо наблюдаване. Ето, ние се тормозим, че, знаете ли, неща могат да станат вероятни с AI, които не са били вероятни преди. Пример за това е нещо като взимане на данни, събрани от частни компании, закупуване от държавното управление и всеобщо анализиране от AI.

Това в действителност не е нелегално. Просто в никакъв случай не е било потребно преди ерата на ИИ, тъй че има метод, по който вътрешното всеобщо наблюдаване изпреварва закона. Технологията напредва толкоз бързо, че е в прорез със закона.

Това е случай номер едно. Случай номер две са изцяло самостоятелни оръжия. Това не са отчасти самостоятелните оръжия, които се употребяват в Украйна или, знаете, евентуално биха могли да бъдат употребявани в Тайван през днешния ден. Това е концепцията да се вършат оръжия, които стрелят без каквото и да е човешко присъединяване.

Сега, даже и тези, мисля, че, знаете ли, те, знаете ли, нашите съперници може в един миг да ги имат, тъй че може би, знаете ли, те може... в един миг може да са нужни за отбраната на демокрацията. Но имаме някои терзания по отношение на тях. Първо, днешните AI системи надалеч не са задоволително надеждни, с цел да създадат изцяло самостоятелни оръжия.

Знаете ли, всеки, който е работил с AI модели, схваща, че има съществена непредсказуемост за тях, която не сме разрешили по чисто механически метод. Има и пропусклив въпрос. Ако имате огромна войска от дронове или роботи, които могат да работят без никакъв човешки контрол, където няма човешки бойци, които да вземат решения за това към кого да се насочите, по кого да стреляте, това... това провокира терзания. И би трябвало да проведем диалог за... за това по какъв начин се следи това. И още не сме водили този диалог. И по този начин, ние сме безапелационни, че, знаете ли, тъй като, знаете ли, тези два случая на приложимост би трябвало... не би трябвало да бъдат позволени.

ДЖО ЛИНГ КЕНТ: Пентагонът ни сподели, че са се съгласили по принцип с тези две ограничавания и желаят да сключат договорка. Защо не можеше да се реализира съглашение?

ДАРИО АМОДЕЙ: Значи имаше, знаете, имаше няколко стадия от това, всички направени бързо и някак си всички, знаете, избрани от типа на тридневния, знаете, доста стеснен тридневен прозорец, който ни дадоха, нали.

Те ни дадоха ултиматум да, знаете, да се съгласим с техните условия за три дни или, знаете, да бъдем избрани като верига за доставки риска или Закона за отбранителното произвеждане, допускам, че ще стигнем до това по-късно. Но през това време имаше-- имаше няколко напред-назад.

Знаете ли, в един миг ни изпратиха език, който, знаете, се появи на повърхността, с цел да дава отговор на нашите условия, само че имаше всевъзможни изрази като „ Ако Пентагонът сметне за уместно “, или, знаете, или, знаете, или да създадем каквото и да било-- „ да създадем нещо в сходство със законите. “

Така че в действителност не се съгласи който и да е... в... в действителност не призна по никакъв логичен метод. И-- и имаше спомагателни стъпки от това, които-- които също не признаха по никакъв логичен метод. От самото начало искахме да сключим договорка.

Ако желаете да разберете позицията на Пентагона по въпроса, представителят на Пентагона, Шон Парнел ден преди този момент туитна, знаете, той повтори позицията им: „ Ние позволяваме единствено всяка законна приложимост. “ И това беше същото, както когато изпратиха... това, което ни изпратиха... изпратиха ни изискванията си. Така че те-- те не са надвишили в и в-в-в-в-в-в-в-те не са по никакъв начин-- съгласни-- са се съгласили с нашите изключения по какъвто и да било логичен метод.

ДЖО ЛИНГ КЕНТ: Президентът разгласява през днешния ден в отговор на обстановката, „ Техният нарцисизъм “, имайки поради Anthropic, „ излага живота на американците на риск, нашите войски в заплаха и националната ни сигурност в заплаха. “ Е... какво мислиш? Какъв е вашият отговор?

ДАРИО АМОДЕЙ: Знаете ли, в изказването, което публикувахме през вчерашния ден, а също и в това, което публикувахме през днешния ден, ние казахме, че сме подготвени, даже в случай че... даже в случай че Министерството на войната или даже в случай че администрацията на Тръмп предприеме тези невиждани ограничения против нас, този тип означение на веригата за доставки, което нормално се употребява против задгранични съперници, ние казахме, че знаете, даже в случай че те подхващат тези крайни дейности, ще създадем всичко допустимо, с цел да подкрепим Министерството на войната, с цел да даде своята технология толкоз дълго, колкото е належащо, с цел да ни измъкне от борда и-- и да се включи, знаете, играч, който е подготвен да направи тези неща, които-- които-- които ние не сме-- които не сме подготвени да вършим.

ДЖО ЛИНГ КЕНТ: Пригответе се за излизане.

ДАРИО АМОДЕЙ: Да, по този начин че-- по тази причина предложихме последователност. Всъщност сме надълбоко загрижени за това. Дълбоко сме загрижени за... типът спиране на услугата, което е тъкмо това, което се случва, когато сме създали риск за веригата за доставки, нали.

Когато сме избрани за риск за веригата за доставки, те споделят, като, нали знаете, " Трябва да сте отвън всичките ни системи. " И аз съм приказвал с хора на място, униформени военни офицери, които споделят: „ Това е от значително значение. Липсата на това ще ни върне шест месеца, 12 месеца, може би повече. “

И по тази причина се опитахме толкоз интензивно да го получим-- да се опитаме-- да се опитаме да реализираме договорка. Но още веднъж, тридневният ултиматум, рискът да ни дефинират верига за доставки. Цялата времева линия се ръководи от Министерството на войната, не от нас. Опитваме се да осигурим последователност. Опитваме се да предоставяме услугите. Опитваме се да осигурим... опитваме се да реализираме договорка тук.

ДЖО ЛИНГ КЕНТ: Тогава какво значи това за сигурността на американците?

ДАРИО АМОДЕЙ: Да. Знаеш ли, бих... бих споделил няколко неща. Знаете ли, в-- в кратковременен проект, това значи, и, знаете ли, това-- това е-- това зависи от Министерството на войната. Знаеш ли, ние към момента се опитваме да реализираме... към момента се опитваме да реализираме договорка с тях.

ДЖО ЛИНГ КЕНТ: Вие сте?

ДАРИО АМОДЕЙ: Все още се пробвате да говорите с тях. Знаеш ли...

ДЖО ЛИНГ КЕНТ: Говорят ли с теб?

ДАРИО АМОДЕЙ: Знаеш ли, ние... ние... получихме разнообразни известия. Не сме видели нищо, което, знаете ли, което... което да задоволи нашите... не сме видели нищо, което да задоволи нашите опасения. Но, знаете ли, аз-- имам поради това единствено в необятен смисъл, че ние към момента, знаете, към момента сме заинтригувани да работим с тях, стига това да е в сходство с нашите червени линии.

ДЖО ЛИНГ КЕНТ: Но наподобява, че към момента сте доста надалеч един от различен, а в този момент секретарят Хегсет е определил всички ви риск за веригата за доставки и сподели това, което сподели. Мислите ли, че е допустимо на този стадий да се реализира съглашение?

ДАРИО АМОДЕЙ: Знаете ли, аз... вижте, едно съглашение изисква и двете страни. Ние от... от наша страна сме подготвени да служим на националната сигурност на тази страна. Ние сме подготвени да предоставим нашите модели на всички клонове на държавното управление, в това число Министерството на войната, разследващата общественост, знаете, по-цивилните клонове на държавното управление при изискванията, които сме дали под нашите червени линии.

Винаги сме подготвени да създадем това, нали. Знаете ли, ние сме... ние сме... ние сме, знаете ли, ние... ние... знаете, ние не... ние не се наскърбяваме тук. Причината да предоставяме нашата технология по този метод е, че желаеме да подкрепим националната сигурност на Съединените щати.

Ние не го вършим, знаете, поради чиновниците на Пентагона. Ние не го вършим в името на съответна администрация. Правим го, тъй като е добре за националната сигурност на Съединените щати. И ние ще продължим да вършим това.

ДЖО ЛИНГ КЕНТ: Защо смятате, че е по-добре Anthropic, частна компания, да има по-голяма дума в това по какъв начин AI се употребява в армията, в сравнение с самият Пентагон?

ДАРИО АМОДЕЙ: Така че първо бих споделил, и мисля, че това е значим миг, никой на място в действителност, доколкото ни е известно, не е попадал в рамките на което и да е от тези-- на някое от тези изключения. Това са, извинете ме. Това са 1% от случаите на приложимост и-- и такива, за които-- че не сме видели никакви доказателства на място, са направени.

Сега-- в този момент, още веднъж, не мога да кажа какви са проектите им. Че ние не знаем. Но... само че нямаме доказателства, че тези случаи на приложимост фактически са се сблъскали с проблеми. Разпръснахме се из Министерството на войната и други елементи на държавното управление без-- без да се натъкваме на някой от тези проблеми.

Сега, във връзка с тези едно или две тесни изключения, в действителност съм склонен, че в дълготраен проект би трябвало да имаме либерален диалог. В дълготраен проект в действителност имам вяра, че това е работа на Конгреса. Ако, да вземем за пример, domest-- има благоприятни условия с вътрешно всеобщо наблюдаване, държавно пазаруване на, знаете, всеобщи данни, които са били създадени за американци, локации, персонална информация, политическа принадлежност за създаване на профили и към този момент е допустимо да се проучва това с AI.

Фактът, че това е законно, наподобява като, знаете ли, правосъдното пояснение на Четвъртата корекция не е наваксано. Или законите, признати от Конгреса, не са наваксани. Така че в дълготраен проект считаме, че Конгресът би трябвало да навакса накъде върви технологията.

Но Конгресът не е най-бързо движещият се орган в света. И за момента ние сме тези, които виждаме тази технология на предната линия. Бих очаквал, че Министерството на войната, бих очаквал от тях да бъдат деликатни по тези въпроси, да, знаете ли, да-- самодейно, знаете ли, да мислят-- да мислят за тези въпроси.

И по този начин бих очаквал те да не-- да нямат никаква угриженост и, знаете, да имаме-- да водим диалог. Но мисля, че при неналичието на това, знаете ли, то, знаете ли, би трябвало да погледнем технологията. Трябва да разгледаме на какво е кадърен във връзка с надеждността и би трябвало да разгледаме методите, по които изпреварва закона и в-- и в които заобикаля желанието на закона.

Това са някои доста тесни области, само че мисля, че са значими. Това са неща, които са съществени за американците, нали. Правото-- правото-- правото да не бъдеш шпиониран от държавното управление, нали. Правото на нашите военни офицери сами да вземат решения по отношение на войната и да не я предават изцяло на машина. Това са... това са фундаментални правила.

ДЖО ЛИНГ КЕНТ: Но в името на фундаменталните правила, за какво американците би трябвало да имат вяра на вас, основен изпълнителен шеф на частна компания, с цел да вземате тези решения вместо федералното държавно управление?

ДАРИО АМОДЕЙ: Е, бих дал... бих дал два отговора на това. Първо, знаете-- знаете, ние сме-- ние сме частна компания, нали >

ДЖО ЛИНГ КЕНТ: Да.

ДАРИО АМОДЕЙ: Можем да изберем да продадем или да не продадем каквото желаеме. Има и други снабдители. Ако DoW, държавното управление, знаете, не харесва услугите, които предоставяме или-- или-- или-- или метода, по който ги вършим, те могат да употребяват различен реализатор. Това би бил естественият метод да се оправим с това, нали.

Само да кажа, не бих се съгласил, само че щях да ги почитам, в случай че споделиха: DoW „ Ние не желаеме да работим с Anthropic. Нашите правила не съответстват с вашите. Ние ще