Възприемането на генеративния ИИ от американските разузнавателни агенции е едновременно предпазливо и спешно
АРЛИНГТЪН, Вирджиния (AP) — Много преди бума на генеративния ИИ, фирма от Силиконовата долина сключи договор да събира и анализира некласифицирани данни за незаконен китайски фентанил трафикът направи убедителни аргументи за приемането му от разузнавателните агенции на САЩ.
Резултатите от операцията далеч надхвърлиха анализа, направен само от хора, като откриха два пъти повече компании и 400% повече хора, участващи в незаконна или подозрителна търговия със смъртоносния опиоид.
Развълнувани служители на американското разузнаване рекламираха резултатите публично – изкуственият интелект създаваше връзки, базирани предимно на данни от интернет и тъмната мрежа – и ги сподели с властите в Пекин, настоявайки за репресии.
Един важен аспект от операцията от 2019 г., наречена Sable Spear, която не е докладвана досега: Фирмата използва генеративен AI, за да предостави на американските агенции - три години преди пускането на новаторския продукт ChatGPT на OpenAI - обобщения на доказателства за потенциални наказателни дела, спестявайки безброй работа часа.
„Не бихте могли да направите това без изкуствен интелект“, каза Брайън Дрейк, тогавашен директор на Агенцията за разузнаване на отбраната и координатор на проекта.
Изпълнителят, Rhombus Power, по-късно ще използва генеративен AI, за да предвиди пълномащабното нахлуване на Русия в Украйна с 80% сигурност четири месеца предварително, за различен клиент от правителството на САЩ. Rhombus казва, че също така предупреждава правителствени клиенти, които отказва да назове, за предстоящи изстрелвания на севернокорейски ракети и китайски космически операции.
САЩ разузнавателните агенции се борят да прегърнат AI революцията, вярвайки, че в противен случай ще бъдат задушени от експоненциален растеж на данните, тъй като технологията за наблюдение, генерирана от сензори, допълнително покрива планетата.
Но служителите са наясно, че технологията е млада и крехка и че генеративният AI – модели за прогнозиране, обучени на огромни набори от данни за генериране на текст по заявка, изображения, видео и човешки разговори – е всичко друго, но не и създаден специално за опасна търговия, потънала в измама.
Анализаторите се нуждаят от „усъвършенствани модели на изкуствен интелект, които могат да усвояват огромни количества информация с отворен код и тайно придобита информация“, написа наскоро директорът на ЦРУ Уилям Бърнс във Foreign Affairs. Но това няма да е просто.
Встъпилият в длъжност главен технологичен директор на ЦРУ, Нанд Мулчандани, смята, че тъй като моделите от поколение AI „халюцинират“, те са най-добре третирани като „луд, пиян приятел“ — способен на голяма проницателност и креативност, но също така склонен към пристрастия влакна. Има и проблеми със сигурността и поверителността: противниците могат да ги откраднат и отровят и те може да съдържат чувствителни лични данни, които служителите нямат право да виждат.
Това обаче не спира експеримента, който в повечето случаи се случва в тайна.
Изключение: Хиляди анализатори в 18-те разузнавателни агенции на САЩ сега използват разработен от ЦРУ ген ИИ, наречен Озирис. Работи върху некласифицирани и публично или търговски достъпни данни - това, което е известно като отворен код. Той пише анотирани резюмета и функцията му за чатбот позволява на анализаторите да навлизат по-дълбоко в запитванията.
Мълчандани каза, че използва множество AI модели от различни търговски доставчици, които не назовава. Нито би казал дали ЦРУ използва AI за нещо важно в секретни мрежи.
„Все още е рано“, каза Мулчандани, „и нашите анализатори трябва да могат да маркират с абсолютна сигурност откъде идва информацията.“ ЦРУ изпробва всички основни модели на ИИ от поколение – без да се обвързва с никого – отчасти защото ИИ продължават да се изпреварват взаимно по способности, каза той.
Мълчандани казва, че ИИ от поколението е най-вече добър като виртуален асистент, търсещ „иглата в стека с игли“. Това, което той никога няма да направи, настояват официални лица, е да замени човешките анализатори.
Линда Вайсголд, която се пенсионира като заместник-директор по анализи на ЦРУ миналата година, смята, че военните игри ще бъдат „убийствено приложение“.
По време на нейния мандат агенцията вече използва редовен AI — алгоритми и обработка на естествен език — за превод и задачи, включително предупреждаване на анализатори в извънработно време за потенциално важни развития. AI не би могъл да опише какво се е случило - това ще бъде класифицирано - но би могъл да каже „ето нещо, което трябва да влезете и да погледнете“.
Очаква се Gen AI да подобри тези процеси.
Най-мощното му използване на разузнаване ще бъде в прогнозния анализ, смята главният изпълнителен директор на Rhombus Power, Аншу Рой. „Това вероятно ще бъде една от най-големите промени в парадигмата в цялата сфера на националната сигурност – способността да предвидите какво е вероятно да направят вашите противници.“
Машината с изкуствен интелект на Rhombus черпи от над 5000 потока данни на 250 езика, събрани в продължение на повече от 10 години, включително глобални източници на новини, сателитни изображения и данни в киберпространството. Всичко е с отворен код. „Можем да проследяваме хора, можем да проследяваме обекти“, каза Рой.
Големите AI, които се борят за бизнеса с разузнавателните агенции на САЩ, включват Microsoft, която обяви на 7 май, че предлага GPT-4 на OpenAI за строго секретни мрежи, въпреки че продуктът все още трябва да бъде акредитиран за работа в класифицирани мрежи.
Конкурент, Primer AI, изброява две неназовани разузнавателни агенции сред своите клиенти — които включват военни услуги, показват документи, публикувани онлайн за скорошни военни семинари за AI. Той предлага задвижвано от AI търсене на 100 езика за „откриване на възникващи сигнали за извънредни събития“ от източници, включително Twitter, Telegram, Reddit и Discord, и помага за идентифицирането на „ключови хора, организации, местоположения“. Primer изброява насочването сред рекламираните употреби на своята технология. В демонстрация на армейска конференция само няколко дни след атаката на Хамас срещу Израел на 7 октомври, ръководителите на компанията описаха как тяхната технология разделя фактите от измислицата в потока от онлайн информация от Близкия изток.
Ръководителите на Primer отказаха да бъдат интервюирани.
В близко бъдеще начинът, по който служителите на разузнаването на САЩ боравят с ИИ от ген. дезинформация и опит за подкопаване на способността на Вашингтон да разчита техните намерения и възможности.
И тъй като Силициевата долина движи тази технология, Белият дом също е загрижен, че всички модели на ИИ от поколение, приети от американските агенции, могат да бъдат проникнати и отровени, нещо, което изследванията показват, че е голяма заплаха.
Друго притеснение: Гарантирането на поверителността на „U.S. лица“, чиито данни могат да бъдат вградени в модел на голям език.
„Ако говорите с някой изследовател или разработчик, който обучава модел на голям език, и ги попитате дали е възможно да изтрийте една отделна част от информацията от LLM и я накарайте да забрави това – и да имате стабилна емпирична гаранция за това забравяне – това не е нещо, което е възможно,” Джон Бийлер, ръководител на AI в офиса на директора на National Разузнаване, каза в интервю.
Това е една от причините разузнавателната общност да не е в режим „движи се бързо и разбивай нещата“ по отношение на приемането на ИИ от поколение.
„Ние не „Не искам да бъдем в свят, в който се движим бързо и внедряваме едно от тези неща, а след две или три години след това осъзнаваме, че те имат някаква информация или някакъв ефект, или някакво възникващо поведение, което не сме предвидили“, каза Бейлер.
Притеснение е, например, ако правителствените агенции решат да използват AI, за да изследват технологиите за био- и кибер оръжия.
Уилям Хартунг, старши изследовател в Quincy Institute for Responsible Statecraft казва, че разузнавателните агенции трябва внимателно да оценяват ИИ за потенциална злоупотреба, за да не доведат до непредвидени последици като незаконно наблюдение или увеличаване на цивилните жертви в конфликти.
„Всичко това идва в контекста на повтарящи се случаи, в които военният и разузнавателният сектор рекламират „чудодейни оръжия“ и революционни подходи – от електронното бойно поле във Виетнам до програмата „Междузвездни войни“ от 80-те години на миналия век до „революцията във военните дела през 90-те и 2000-те години – само за да открият, че не отговарят на изискванията ”, каза той.
Правителствени служители настояват, че са чувствителни към подобни опасения. Освен това, казват те, мисиите с изкуствен интелект ще варират значително в зависимост от участващата агенция. Няма универсален размер за всички.
Вземете Агенцията за национална сигурност. Прихваща комуникациите. Или Националната агенция за геопространствено разузнаване (NGA). Работата му включва да вижда и разбира всеки сантиметър от планетата. След това има данни за измерване и сигнатура, които множество агенции използват за проследяване на заплахи с помощта на физически сензори.
Напълването на такива мисии с AI е ясен приоритет.
През декември NGA издаде искане за предложения за напълно нов тип генериращ AI модел. Целта е да се използват изображения, които събира – от сателити и на нивото на земята – за събиране на прецизна геопространствена информация с прости гласови или текстови указания. Gen AI моделите не картографират пътища и железопътни линии и „не разбират основите на географията“, каза в интервю директорът по иновации на NGA Марк Мънсел.
Мънсел каза на априлска конференция в Арлингтън, Вирджиния, че правителството на САЩ в момента е моделирало и етикетирало само около 3% от планетата.
Приложенията от поколение AI също имат много смисъл за киберконфликт, където нападателите и защитниците са в постоянна битка и автоматизацията вече е в действие.
Но много жизненоважна разузнавателна работа няма нищо общо с науката за данните, казва Зачери Тайсън Браун, бивш офицер от военното разузнаване. Той вярва, че разузнавателните агенции ще предизвикат катастрофа, ако приемат ИИ от поколение твърде бързо или напълно. Моделите не разсъждават. Те просто прогнозират. И техните дизайнери не могат да обяснят напълно как работят.
Тогава не е най-добрият инструмент за съпоставяне на акъла с конкурентни майстори на измамата.
„Анализът на интелигентността обикновено прилича повече на стара идея за сглобяването на пъзел, само че някой друг постоянно се опитва да открадне вашите парчета, като същевременно поставя парчета от съвсем различен пъзел в купчината, с която работите“, Браун наскоро написа във вътрешно списание на ЦРУ. Анализаторите работят с „непълни, двусмислени, често противоречиви откъси от частична, ненадеждна информация.“
Те се доверяват значително на инстинкта, колегите и институционалната памет.
„Не виждам AI ще замени анализаторите в скоро време“, каза Вайсголд, бивш заместник-директор на анализите на ЦРУ.
Бързите решения за живот и смърт понякога трябва да се вземат въз основа на непълни данни, а сегашните модели на AI все още са твърде непрозрачни .
„Не мисля, че някога ще бъде приемливо за някой президент“, каза Вайсголд, „разузнавателната общност да влезе и да каже: „Не знам, черната кутия току-що каза аз така.'“
