Как американските технологични гиганти снабдиха Израел с AI модели, повдигайки въпроси относно ролята на технологиите във войната

ТЕЛ АВИВ, Израел (AP) — Американските софтуерни колоси тихомълком упълномощиха Израел да наблюдава и убива доста повече хипотетични бойци по-бързо в Газа и Ливан посредством внезапен скок в изкуствения разсъдък и компютърните услуги. Но броят на убитите цивилни също се е нараснал, дружно със страховете, че тези принадлежности способстват за гибелта на почтени хора.

Военните от години наемат частни компании за създаване на персонализирани самостоятелни оръжия. Скорошните войни на Израел обаче бележат водещ образец, в който комерсиални AI модели, направени в Съединените щати, са били употребявани в дейни военни дейности, макар опасенията, че те не са били в началото създадени, с цел да оказват помощ при решаването кой да живее и кой да почине.

Израелската войска употребява AI, с цел да пресее големи количества от разузнаване, прихванати връзки и наблюдаване, с цел да открие подозрителна тирада или държание и да научи придвижванията на своите врагове. След изненадващо нахлуване от бойци на Хамас на 7 октомври 2023 година потреблението на технологията Microsoft и OpenAI внезапно набъбна, откри следствие на Associated Press.

Разследването също по този начин разкри нови детайлности за това по какъв начин AI системите избират цели и методите, по които те могат да се объркат, в това число неверни данни или неверни логаритми. Той се основава на вътрешни документи, данни и извънредни изявленията с сегашни и някогашни израелски чиновници и чиновници на компанията.

Целта на Израел след офанзивата, която умъртви към 1200 души и взе над 250 заложници, беше да изкорени Хамас, а военните му нарекоха ИИ „ променител на играта “ при по-бързото поразяване на цели. От началото на войната повече от 50 000 души са починали в Газа и Ливан и близо 70% от постройките в Газа са били опустошени, съгласно министерствата на опазването на здравето в Газа и Ливан.

„ Това е първото удостоверение, което получихме, че комерсиалните AI модели се употребяват непосредствено във война “, сподели Хайди Хлааф, основен академик в AI Now Institute и някогашен старши инженер по сигурност в OpenAI. „ Последствията са големи за ролята на технологиите в разрешаването на този вид неетична и противозаконна война в бъдеще. “

Използването на AI и облачни калкулации от Израел скочи по време на войната

Сред американските софтуерни компании, Microsoft има изключително тясна връзка с израелската войска, обхващаща десетилетия.

Тези връзки, дружно с тези с други софтуерни компании, се ускориха след офанзивата на Хамас. Военният отговор на Израел натовари личните му сървъри и усили зависимостта му от външни снабдители на трети страни, съгласно презентация предходната година от полковник Рахели Дембински, върховен офицер по осведомителни технологии на армията. Докато тя описваше по какъв начин AI е обезпечил на Израел „ доста забележителна оперативна успеваемост “ в Газа, логата на Microsoft Azure, Гугъл Cloud и Amazon Web Services се появиха на огромен екран зад нея.

Използването на изкуствения разсъдък на Microsoft и OpenAI от израелската войска скочи предишния март до съвсем 200 пъти повече, в сравнение с преди седмицата, водеща до офанзивата на 7 октомври, откри AP при обзор на вътрешната информация на компанията. Количеството данни, съхранявани на сървърите на Microsoft, се удвои сред това време и юли 2024 година до повече от 13,6 петабайта - почти 350 пъти цифровата памет, нужна за запазване на всяка книга в Библиотеката на Конгреса. Използването на големите банки от компютърни сървъри на Microsoft от военните също се е нараснало с съвсем две трети единствено през първите два месеца на войната.

Microsoft отхвърли да даде какъвто и да е коментар за тази история и не отговори на обстоен лист с писмени въпроси по отношение на услугите в облака и AI, които дава на израелската войска.

Имате съвет за вести?

Свържете се с световния проверяващ екип на AP на. За сигурни и поверителни връзки използвайте безплатното приложение Signal +1 (202) 281-8604.

В обстойно изказване на уеб страницата си компанията споделя, че „ зачитането на човешките права е съществена полезност на Microsoft “ и се ангажира „ да поддържа позитивната роля на технологиите по целия свят “. В своя 40-страничен доклад за бистрота на виновния AI за 2024 година Microsoft дава обещание да „ картографира, мери и ръководи генеративни опасности от AI през целия цикъл на разработка, с цел да понижи риска от щета “ и не загатва доходоносните си военни контракти.

Усъвършенстваните AI модели се дават посредством OpenAI, производителят на ChatGPT, посредством облачната платформа Azure на Microsoft, където са закупени от израелската войска, демонстрират документите и данните. Microsoft е най-големият вложител на OpenAI.

OpenAI съобщи, че няма партньорство с израелската войска и политиките му за потребление споделят, че клиентите му не би трябвало да употребяват продуктите му за създаване на оръжия, заличаване на имущество или пострадване на хора. Преди към година обаче OpenAI промени изискванията си за потребление от възбрана на военна приложимост до разрешаване на „ случаи на потребление на националната сигурност, които са в сходство с нашата задача “.

Израелската войска отхвърли да отговори на подробни писмени въпроси от AP по отношение на потреблението на търговски AI артикули от американски софтуерни компании, само че сподели, че нейните анализатори употребяват системи с задействан AI, с цел да оказват помощ при идентифицирането на цели и без значение да ги изследват дружно с високопоставени офицери, с цел да дават отговор на интернационалното право, претегляйки военните преимущество против страничните вреди.

„ Тези принадлежности за изкуствен интелект вършат процеса на разузнаване по-точен и по-ефективен “, се споделя в изказване на израелските военни до АП. „ Те вършат повече цели по-бързо, само че не за сметка на точността, и доста пъти в тази война те съумяха да сведат до най-малко цивилните жертви. “

Други американски софтуерни компании също работят с израелската войска

Гугъл и Amazon дават облачни калкулации и AI услуги на израелската войска по „ Project Nimbus “, контракт на стойност 1,2 милиарда $, подписан през 2021 година, когато Израел за първи път тества личните си системи за ориентиране, основани на AI. IDF употребява сървърни ферми или центрове за данни на Cisco и Dell. Red Hat, без значение дъщерно сдружение на IBM, също е предоставило технологии за облачни калкулации на израелската войска, до момента в който Palantir Technologies, сътрудник на Microsoft в контракти за защита на Съединени американски щати, има „ стратегическо партньорство “, предоставящо системи за изкуствен интелект в помощ на военните старания на Израел.

След като OpenAI промени изискванията си за потребление предходната година, с цел да разреши за задачите на националната сигурност, Гугъл последва образеца по-рано този месец с сходна смяна в политиката си за социална нравственос, с цел да отстрани езика, който споделя, че няма да употребява своя AI за оръжия и наблюдаване.

Гугъл съобщи, че се ангажира с отговорно създаване и внедряване на AI, „ който пази хората, предизвиква световния напредък и поддържа националната сигурност. “

За какво се употребява комерсиалният AI?

Израелските отбранителни сили употребяват Microsoft Azure, с цел да компилират информация, събрана посредством всеобщо наблюдаване, която транскрибира и превежда, в това число телефонни позвънявания, текстови известия и аудио известия, съгласно офицер от израелското разузнаване, който работи със системите. След това тези данни могат да бъдат кръстосано тествани с вътрешните системи за ориентиране на Израел и назад.

Той сподели, че разчита на Azure за бързо търсене на термини и модели в големи текстове, като намиране на диалози сред двама души в документ от 50 страници. Azure също по този начин може да откри хора, които си дават насоки в текста, който по-късно може да бъде кръстосано препратен към личните системи за изкуствен интелект на военните, с цел да се дефинират тъкмо локации.

Прегледаните AP данни на Microsoft демонстрират, че след офанзивата на 7 октомври израелската войска е употребила интензивно принадлежности за транскрипция и превод и OpenAI модели, макар че не прецизира кои. Обикновено AI моделите, които транскрибират и превеждат, се показват най-добре на британски. OpenAI призна, че неговият известен основан на AI модел за превод Whisper, който може да транскрибира и превежда на голям брой езици, в това число арабски, може да сформира текст, който никой не е споделил, в това число прибавяне на расови мнения и насилствена изразителност.

Надеждни ли са израелските AI системи?

Грешки могат да зародят по доста аргументи, включващи AI, споделиха израелски военни, които са работили с системи за ориентиране и други механически специалисти. Прихванатите телефонни позвънявания, свързани с профила на обещано лице, включват времето, в което лицето се е обадило, и имената и номерата на участниците в диалога. Но е нужна спомагателна стъпка, с цел да слушате и проверявате истинското аудио или да видите преведен дубликат.

Израелските военни споделят, че човек, който знае арабски, би трябвало да ревизира преводите. Все отново един офицер от разузнаването сподели, че е видял неточности при ориентиране, които разчитат на неправилни машинни преводи от арабски на иврит.

___

Бийзекер рапортува от Вашингтон, а Бърк от Сан Франциско. Репортерите на AP Аби Сюел и Сара Ел Дийб в Бейрут, Джулия Франкел и Натали Мелцер в Йерусалим, Дейк Канг в Пекин и Майкъл Лидтке в Сан Франциско способстваха за този отчет.

___

Свържете се с световния проверяващ екип на AP на адрес или https://www.ap.org/tips/

___

The Associated Press получава финансова помощ от мрежата Omidyar в поддръжка на отразяването на изкуствения разсъдък и неговото влияние върху обществото. AP е само виновен за цялото наличие. Намерете стандартите на AP за работа с филантропи, лист с поддръжници и финансирани зони на покритие на AP.org.