Вътрешни въпроси и отговори: Предпазливото възприемане на генеративния AI от главния технолог на ЦРУ

Предимството на знанието може да избавя животи, да печели войни и да предотвратява бедствия. В Централното разследващо ръководство главният изкуствен интелект – машинно образование и логаритми – от дълго време извършва тази задача. Сега генеративният AI се причислява към напъните.

Директорът на Централно разузнавателно управление на САЩ Уилям Бърнс споделя, че технологията AI ще усъвършенства хората, а не ще ги размени. Първият основен софтуерен шеф на организацията, Нанд Мулчандани, провежда инструментите. Има забележителна неотложност: Противниците към този момент популяризират генерирани от AI deepfakes, ориентирани към подкопаване на ползите на Съединени американски щати.

Бивш основен изпълнителен шеф на Силициевата котловина, който ръководеше сполучливи започващи компании, Mulchandani беше назначен на поста през 2022 година след престой в Пентагона Joint Център за изкуствен интелект.

Сред плановете, които той управлява: Подобно на ChatGPT генеративно AI приложение, което черпи от данни с отворен код (означава некласифицирани, обществени или налични в комерсиалната мрежа). Хиляди анализатори от 18-те организации на разследващата общественост на Съединени американски щати го употребяват. Други планове на Централно разузнавателно управление на САЩ, които употребяват широкоезични модели, не е изненадващо секретни.

Това изявление на Associated Press с Mulchandani е редактирано за дължина и изясненост.

В: Наскоро казахте, че генеративният ИИ би трябвало да се третира като „ вманиачен, пийнал другар “. Можете ли да обясните по-подробно?

A: Когато тези генеративни AI системи „ халюцинират “, те от време на време могат да се държат като ваш пийнал другар в бар, който може да каже нещо, което ви тласка отвън естествената ви концептуална граница и искри отвън -кутийното мислене. Не забравяйте, че тези основани на AI системи са вероятностни по природа, тъй че не са прецизни (склонни са към фабрикуване). Така че за креативен задания като изкуство, лирика и изобразяване тези системи са отлични. Но към момента не бих употребявал тези системи за осъществяване на точна математика или планиране на аероплан или небостъргач - в тези действия „ задоволително близо “ не работи. Те също могат да бъдат предубедени и тясно фокусирани, което аз назовавам проблем със „ заешката дупка “.

В: Единствената сегашна приложимост на широкоезичен модел в мащаб на предприятието, за която знам в Централно разузнавателно управление на САЩ, е изкуственият разсъдък с отворен код, наименуван Озирис, основан за цялата разследваща общественост. Това вярно ли е?

О: Това е единственото, което сме разкрили обществено. Това беше безспорен хоумрън за нас. Все отново би трябвало да разтеглим полемиката оттатък единствено LLMs - като образец, ние обработваме големи количества чуждоезично наличие в разнообразни видове медии, в това число видео, и използваме други AI логаритми и принадлежности, с цел да го обработваме.

В: Проектът за специфични конкурентни изследвания, мощна консултантска група, фокусирана върху ИИ в националната сигурност, излезе с отчет, в който се споделя, че разследващите служби на Съединени американски щати би трябвало бързо да интегрират генеративен ИИ – поради неговия унищожителен капацитет. Той дефинира двугодишен график за излизане оттатък опитите и лимитираните пилотни планове и „ разрастване на Gen AI принадлежности в мащаб “. Съгласни ли сте?

A: Централно разузнавателно управление на САЩ е на 100% за потреблението на тези технологии и тяхното мащабиране. Приемаме това толкоз съществено, колкото евентуално всеки софтуерен проблем. Смятаме, че надминахме първичната времева линия с огромна разлика, защото към този момент използваме Gen AI принадлежности в производството. По-дълбокият отговор е, че сме при започване на голям брой спомагателни промени и огромна част от работата е да интегрираме технологията по-широко в нашите приложения и системи. Това са ранни дни.

В: Можете ли да назовете вашите сътрудници за модели на огромни езици?

О: Не съм сигурен, че назоваването на доставчиците е забавно сега. В момента има детонация от LLMs, налични на пазара. Като образован клиент, ние не обвързваме нашата лодка с съответен набор от LLM или съответен набор от снабдители. Ние оценяваме и използваме на процедура всички високопроизводителни магистърски стратегии за магистърска степен, както с търговски клас, по този начин и с отворен код. Ние не преглеждаме пазара на LLM като единствен, където една лаборатория е по-добра от останалите. Както забелязвате на пазара, моделите се изпреварват един различен с всяка нова версия.

В: Кои са най-важните случаи на приложимост в CIA за модели на огромни езици?

О: Основното е обобщаването. Невъзможно е за анализатор на отворен код в Централно разузнавателно управление на САЩ да усвои огнището от медийна и друга информация, която събираме всеки ден. Така че това промени играта за прозрения в настроенията и световните трендове. След това анализаторите се впускат в детайлности. Те би трябвало да могат — с цялостна сигурност — да анотират и изясняват данните, които цитират, и по какъв начин стигат до изводи. Нашата търговия не се е трансформирала. Допълнителните елементи дават на анализаторите доста по-широка вероятност – както класифицираните, по този начин и частите с отворен код, които събираме.

В: Кои са най-големите провокации при адаптирането на генеративния AI в организацията?

О: Няма огромна културна опозиция вътрешно. Нашите чиновници се занимават с AI всекидневно конкурентно. Очевидно целият свят е разпален от тези нови технологии и невероятните облаги в продуктивността. Номерът е да се борим с рестриктивните мерки, които имаме върху разделянето на информацията и по какъв начин се построяват системите. В доста случаи разделянето на данни не е от съображения за сигурност, а от правни аргументи. Как да свързваме дейно системи, с цел да се възползваме от преимуществата на AI, като в същото време запазим всичко това непокътнато? Някои в действителност забавни технологии се появяват, с цел да ни оказват помощ да обмислим това – и да комбинираме данни по способи, които поддържат криптиране и надзор на поверителността.

В: Generative AI сега е съвсем толкоз комплициран, колкото възпитаник в началното учебно заведение. Разузнавателната работа, в противен случай, е за възрастни. Всичко се свежда до опит да се пробие измамата на съперника. Как се вписва Gen AI в тази работа?

A: Първо, дано подчертаем, че човешкият анализатор има преимущество. Имаме водещи международни специалисти в своите области. И в доста случаи на входяща информация е включена голяма човешка преценка, с цел да се претегли нейната значимост и значение – в това число на лицата, които може да я дават. Нямаме машини, които да копират нищо от това. И ние не търсим компютри, които да правят работата на специалисти по домейни.

Това, което преглеждаме, е моделът на втория водач. Смятаме, че Gen AI може да има голямо въздействие в мозъчната офанзива, предлагането на нови хрумвания. И в повишение на продуктивността – и прозорливост. Трябва да бъдем доста детерминирани по отношение на това по какъв начин го вършим, тъй като, ръководени вярно, тези логаритми са мощ за положително. Но в случай че ги употребявате погрешно, те в действителност могат да ви наранят.