Иран и нарастващите опасности от ИИ във войната

В Иран ИИ излезе на бойното поле. Силите на Съединени американски щати употребяват технологията, с цел да подобрят вземането на решения, да оказват помощ за пресяването на големи количества данни за идентифициране на цели и да подобрят военната логистика. Неизбежно спорове като този се трансформират в поле за тестване на гранични технологии. Това единствено акцентира незабавната нужда от дейно ръководство, дружно с ясни граници за ограничение по кое време и по какъв начин AI се употребява в оръжейните системи.

Един риск се крие в несъответстващия надзор върху данните, които са виталната мощ на всички AI системи. Моделите са толкоз положителни, колкото и информацията, върху която са подготвени. Няма доказателства, че изкуственият разсъдък е отговорен в неотдавнашния унищожителен ракетен удар против учебно заведение за девойки в Южен Иран, само че следствието би трябвало да хвърли светлина върху това по какъв начин се ревизират данните, употребявани при избора на цел.

Друг риск е, че хората, натоварени с вземането на решения за живот или гибел въз основа на рекомендации от системи за изкуствен интелект, може да се затруднят да предположат машините. Някои специалисти предизвестяват, че това към този момент може да е по този начин в иранския спор, като се има поради компликацията за човек да разбере всички фактори, които влизат в оценката на AI модела.

Съществува също по този начин възходящ напън хората да бъдат изцяло изключени от цикъла, да вземем за пример в обстановки, в които врагът разбърква информационните връзки прави невероятно поддържането на пряк човешки надзор върху оръжие. Съединени американски щати към този момент работят върху изцяло самостоятелни дронове за отбрана на Тайван против евентуална китайска офанзива.

Това прибавя нова неотложност към нуждата от ограничавания за потреблението на смъртоносни самостоятелни оръжейни системи или закони. Поне към този момент мораториумът върху потреблението им наподобява подходящ и в последна сметка може да се наложи цялостна възбрана.

Една от аргументите е неналичието на надеждност. Днешният AI, основан на вероятностни системи, които са склонни към по този начин наречените халюцинации, не е задоволително благонадежден, с цел да се довери на силата на живота и гибелта. Това беше една от аргументите Anthropic да се опълчи на предаването на цялостния надзор върху своя AI на Пентагона за класифицирана приложимост, което накара държавното управление на Съединени американски щати да предприеме драконовската стъпка по-рано този месец да подреди технологията му да бъде неразрешена от военните вериги за доставки.

Съществува и честен мотив против самостоятелните оръжия: че решението за лишаване на човешки живот не би трябвало да се разпорежда на подизпълнител на машина. Дори и при цялостна автономност обаче, човек някъде към момента ще дава отговор за отприщването на оръжието, евентуално поддържайки линия на директна отговорност. Могат да се създадат и морални причини в интерес на автоматизираните оръжия — в случай че може да се потвърди, че понижават човешките неточности, причиняващи цивилни жертви.

Най-силният мотив за ограничение на разпространяването на ИИ на бойното поле е, че сходно на други трансформиращи технологии, той може изцяло да промени естеството на самата война. Невъзможно е да се предскажат всички способи, по които това може да се случи, само че някои от опциите, които бяха препоръчани, са в действителност ужасяващи, като да вземем за пример потреблението на рояци евтини дронове за следене и ликвидиране на огромен брой съперници.

Добро начало би било Съединени американски щати и Китай, като международни суперсили с ИИ, да се спогодят за някои на практика ограничавания върху личното си потребление на самостоятелни оръжия, дружно с способи за попречване на технологията от разпространяване.

Друго би било групата на Организация на обединените нации, която е прекарала години в разискване на допустима интернационална възбрана на самостоятелните оръжия, повтаряйки възбраната на химическите и биологичните оръжия, да стигне до умозаключение. Необходимостта от деяние става все по-спешна. С всеки нов интернационален спор навлизането на ИИ във война единствено ще се форсира.