Препис: Главният изпълнителен директор на Hugging Face Клеман Деланг за „Face the Nation with Margaret Brennan“, 2 август 2026 г.
Следва дубликат от изявление с основния изпълнителен шеф на Hugging Face Clément Delangue, излъчено в „ Face the Nation with Margaret Brennan “ на 2 август 2026 година
МАРГАРЕТ БРЕНАН: Сега се обръщаме към изкуствения разсъдък и въпроса, който се появи след поредност от тревожни хакерски произшествия: Безопасно ли е? За да обсъдим, към нас се причисли Клем Деланг. Той е основен изпълнителен шеф на AI платформата Hugging Face, чиято компания в детайли разказа една от офанзивите предходната седмица. Клем, положително утро и на теб.
ПРЕГРЪЩАНО ЛИЦЕ, СЪОСНОВАТЕЛ И ГЛАВЕН ДИРЕКТОР КЛЕМЕНТ ДЕЛАНК: Добро утро. Благодаря, че ме приехте.
МАРГАРЕТ БРЕНЪН: Е, вашата компания разкри, че е била атакувана по-рано този месец от самостоятелен AI кибер артист, който скочи самичък от системата за тестване на друга компания, с цел да хакне вашата компания. OpenAI по-късно разкри, че тяхната технология е станала лъжец. Те изгубиха надзор над него. Кажете ми, за какво вашата компания предизвести обществеността и предизвести ФБР? Мислите ли, че това е закононарушение?
КЛЕМ ДЕЛАНГ: Е, мисля, че ни се стори доста необичайно и невиждано, нали? Тъй като мисля, че това е първият случай на нещо много самостоятелно, правещо нещо сходно, тъй че размерът на подхванатите дейности и тяхната скорост, мисля, че бяха 17 000 дейности, подхванати за четири дни и половина, беше доста, доста ново. Очевидно нападателят - когато ние - когато приказваме за хакерска атака, ние - мислим за национални страни, мислим за хакерски групи. Не мислим за компания като OpenAI, нали? Много видна, известна американска компания. И по-късно методът, по който отговорихме, употребявайки отворен модел, тъй че потреблението на самите AI, с цел да се защитим против това, също беше доста- много ново и много заслужаващо вести съгласно нас.
МАРГАРЕТ БРЕНЪН: Вие се защитихте. Вие сами намерихте решението, само че отидохте във ФБР. Мисля, че за доста хора, когато мислят за някой, който прави закононарушение, те мислят за човек. Те не мислят за стратегия, компютърна стратегия като нещо, което можете да преследвате като направило закононарушение. Какво прави ФБР?
КЛЕМ ДЕЛАНГ: Ами, желая да кажа, ние- ние докладвахме като- на управляващите, защото би трябвало да влизаме- в такива-такива случаи, нали? Това е нещо като наложително откриване, както пред управляващите, по този начин и пред обществеността, когато- когато се сблъскате с нещо сходно, което в действителност е какво- какво направихме. Сега, когато мислим за бъдещето, нали? Сега чухме, че освен OpenAI, само че и Anthropic е изправен пред сходни проблеми. Мисля, че е в действителност значимо да имаме поради, че хакерските атаки би трябвало да бъдат включени в правната рамка в Съединени американски щати и би трябвало да останат противозаконни, с цел да се предотврати детонация от тях в бъдеще, нали? Подобно на това, че не желаеме да попаднем в свят, в който всеки е изправен пред хакерски атаки от самото начало заради сътрудници и фирмите, които основават тези сътрудници, не са виновни за тях, тъй че мисля, че е значимо регулаторите и политиците да помислят за правната рамка на този нов тип софтуерен риск.
МАРГАРЕТ БРЕНЪН: Вие описахте повече от 17 000 хакерски дейности на интернет, преди този момент даже да бъде намерено от вашата компания, това звучи като че ли разработчиците са изгубили надзор. Имат ли?
КЛЕМ ДЕЛАНГ: Е, би трябвало да запомните, че това е софтуерна система, само че основана от инженери, а инженерите от време на време могат да бъркат. И мисля, че това е... това се случва тук. Ето какво се случи тук. Знаете ли, ние... ние към този момент в нашето общество одобряваме някакво равнище на автономност. Като да вземем за пример, в случай че мислите за вашата съдомиялна машина, вие й давате самостоятелност да мие вашите съдове и не проверявате на всяка стъпка, нали? Това е слагане на топла вода, разчистване, сушене, нали? Но в случай че поставите неверен артикул в него или в случай че има теч, ще имате проблем. Тук, тук е същото. Мисля, че те са построили нещо като самостоятелна система и са позволили някои неточности и вследствие на това сме изправени пред този проблем.
МАРГАРЕТ БРЕНЪН: Значи казахте, че смятате, че би трябвало да има някои правни параметри към това. Администрацията на Тръмп предприе доста леко допиране в регулирането, тъй като желае да резервира конкурентоспособността на Америка в това пространство. Те имат тази политика, при която могат да преглеждат технологията в продължение на 30 дни, с цел да преценяват главно какъв брой рисково е нещо, преди дадена компания да го пусне на пазара, само че доколкото разбирам описаното от вас, тази офанзива се е случила преди технологията да бъде пусната на пазара. Това се случи по време на стадия на разработка. Беше неиздадено. И по този начин, това, което казвате, съгласно мен, няма ли регулация на този стадий, която да попречи на нещо сходно да се случи още веднъж?
КЛЕМ ДЕЛАНГ: Да, това е в действителност явен образец, че просто нещо като попречване на издания на модели на AI не работи в действителност. Концентрирането на всичко зад затворени порти единствено в няколко организации не работи. Едно нещо, което работи, което работи в този случай, е нещо като поощряване на по-отворени модели, нали? Защото се защитихме с отворен модел, нали? Сякаш не бихме могли да го създадем с API, защото те имаха тези парапети, които предотвратяват активността за киберсигурност, и ние трябваше да осъществим модел на нашата лична инфраструктура, тъй че ние... имахме потребност от отворен модел. Това е един образец за неща, които можем да насърчаваме и които ще създадат света по-безопасен. И в действителност сте видели може би предходната седмица това писмо от Дженсън Хуанг от Nvidia и доста софтуерни изпълнителни шефове, призоваващи администрацията да получи повече поддръжка за отворени модели.
МАРГАРЕТ БРЕНЪН: Когато казвате отворен модел, единствено за нашата публика, както разбирам, това е AI модел, чиито съществени съставни елементи са обществено пуснати, тъй че всеки може да го изтегли. Не е затворен, както една компания може да направи с тяхната лична информация. Така че желаете повече от това да е там и да е налично за обществеността.
КЛЕМ ДЕЛАНГ: Да, да. Защото има единственият метод за- бранителите да се защитят от--
МАРГАРЕТ БРЕНЪН: Добре.
КЛЕМ ДЕЛАНГ: --по тематики като тази. Те отстраняват асиметрията на мощ и благоприятни условия, нали? В тези типове опасности, в случай че имате доста мощни системи и доста слаби системи, които се пазят, тогава тогава имате верния проблем. Но в случай че – вие, в случай че балансирате, в случай че го извършите по-симетричен във връзка с нападатели и бранители, това – това нормално е, когато свършите в по-безопасен свят. И в действителност мисля, че сега приказваме доста за рисковете за киберсигурността, само че AI в действителност е опция да се поправят доста от проблемите с киберсигурността. Защитихме се с AI. Ще използваме AI, с цел да поправяме доста от грешките си. Така че се надяваме, че изкуственият разсъдък в последна сметка ще направи света по-безопасен с помощта на това.
МАРГАРЕТ БРЕНЪН: И вие използвахте китайски модел на изкуствен интелект, с цел да се отбраните. Има доста терзания по отношение на поканата на Китай в това пространство.
КЛЕМ ДЕЛАНГ: Да, желая да кажа, че забавното е, че използвахме американската версия на китайски модел. Използвахме версията на Nvidia, която, нещо като, направи китайския модел по-добър. Това е хубостта на отворените модели. След като бъдат споделени, без значение от кое място идват, от Китай или отвред, американските компании могат да ги модифицират, ремиксират, хостват, ръководят сами. Така че това е... това е едно от нещата, които в действителност ги вършат безвредни, където и откъдето и да идват.
МАРГАРЕТ БРЕНЪН: И по този начин, желая да ви попитам за съответен законодателен акт и ще кажа авансово, че сега няма доста работа, която се прави в Конгреса, само че има този двупартиен законопроект, който ще даде на Вътрешната сигурност пълномощието да подреди на компаниите за ИИ да затворят или да забавят своите изкуствени модели на просветеност, в случай че са прекомерно рискови. Нарича се законопроект за „ комутатор за прекъсване “. Това ли желаете?
КЛЕМ ДЕЛАНГ: Е, желая да кажа, мисля, че нещо, което осъзнаваме с тези събития е, че концентрирането на мощни качества зад затворени порти, даже предотвратяването на стартирането им пред обществеността, в действителност не е решение. Знаеш ли, като тези проблеми се случиха на неиздадени модели. Така че, аз-мисля-мисля,че казусът е-не е толкоз, нещо като, ограничение на напредъка или-или, нещо като, попречване на фирмите да пускат тези модели, в действителност е противоположното. Дава достъп на повече хора, с цел да могат да се пазят, демократизира технологията, прави по-прозрачна. Например, за киберсигурността, мисля, че би трябвало да има наложително откриване на сътрудници, хакерски атаки, нали? За да може всеки да се поучи от него и да може да ги разбере. Това са освен това на редовно равнище. Мисля, че ограничения, които ще- ще създадат света по-безопасен и ще се възползват повече от технология, която може да направи толкоз доста страхотни неща за- за света.
МАРГАРЕТ БРЕНЪН: И по този начин, това е регулацията, която желаете, повече условия, които всички компании, частни и обществени, да признават, когато се случи нещо сходно?
КЛЕМ ДЕЛАНГ: Повече бистрота. Знаете, че – по този начин се учим, по този начин разбираме технологията и – и по този начин построяваме системите, контрасилите, с цел да сме сигурни, че всеки – всеки е – е в сигурност. Например, за тези кибер офанзиви би трябвало да можем да забележим това, което назоваваме агентски следи, което в действителност е това, което инженерите желаеха от сътрудниците, и по-късно какви стъпки са подхванали сътрудниците, с цел да схванат дали е човешка неточност, дали е систематична неточност, дали е неточност на AI и - и в действителност, нещо като да изградим бъдещето на - на регулирането, само че също и на дейностите на компанията повече - по-съответно.
МАРГАРЕТ БРЕНЪН: Клем, доста ви благодаря, че обяснихте всичко това на обществеността. Оценяваме вашето време през днешния ден.
КЛЕМ ДЕЛАНГ: Благодаря, довиждане.
МАРГАРЕТ БРЕНЪН: Връщам се по-късно.
