Папа Лъв XIV предупреждава срещу войната с изкуствен интелект: „Изкуственият интелект сега изисква да бъде обезоръжен“

Папа Лъв XIV в понеделник (25 май) издаде необятно предизвестие за заплахите от изкуствения разсъдък, призовавайки за мощно световно контролиране, самостоятелен контрол и етични гаранции, с цел да се подсигурява, че технологията служи на човечеството, а не на облага или война.

В първата си енциклика, озаглавена Magnifica Humanitas („ Великолепното човечество “), първият папа, роден в Америка, разказва ИИ като едно от определящите провокации на актуалната ера и подлага на критика това, което той назова „ просвета на властта “, което тласка световната конкуренция за създаване на все по-мощни системи.

„ Изкуственият разсъдък в този момент изисква да бъде обезоръжен, освободен от логиката, която го трансформира в инструмент за владичество, изключване и гибел “, сподели Лео по време на особено показване на документа във Ватикана.

Папата предизвестява против войната, ръководена от ИИ

Енцикликата остро осъжда потреблението на ИИ във военни интервенции и предизвестява да не се разрешава на машините да вземат решения на живот и гибел.

Лео разгласи, че е „ неприемливо “ да се предава необратимо смъртоносно решения към системите с изкуствен интелект, сигнализирайки за внезапно морално предизвикателство към държавните управления и отбранителната промишленост, инвестиращи съществено в технологии за самостоятелна война.

„ Не е разрешено да се поверяват необратими, смъртоносни решения на системи с изкуствен интелект “, написа папата.

Без да посочва съответни страни или спорове, Лео подлага на критика възходящата „ нормализация на войната “, подхранвана от напреднали технологии и предизвести, че изкуственият разсъдък рискува да понижи чувствителността на обществата към човешката цена на спора.

Той също по този начин твърди, че обичайна теория за „ справедливата война “ на католическата черква към този момент е „ остаряла “, защото актуалните технологии за водене на война са трансформирали мащаба и естеството на заличаването.

Критика към софтуерните колоси и концентрацията на власт

Папата неведнъж предизвести за концентрацията на данни и софтуерна мощност в ръцете на няколко корпорации, казвайки, че подобен надзор заплашва уязвимите общности, изключително децата.

„ Не е задоволително да се позоваваме на етиката абстрактно; нужни са постоянни правни рамки, самостоятелен контрол, осведомени консуматори и политическа система, която не се отхвърля от отговорността си “, написа Лео.

Той добави: „ По-морален AI не е задоволителен, в случай че този морал се дефинира от няколко. ”

Забележките наподобява оспорват дерегулаторния метод, насърчаван от президента на Съединени американски щати Доналд Тръмп, чиято администрация поддържа по-малко ограничавания върху развиването на ИИ в опит да резервира американското софтуерно владичество.

Ватикана търси разговор със Силиконовата котловина

Презентацията на Ватикана включваше бележки от Кристофър Олах, съосновател на компанията за ИИ Anthropic, отразяващи Продължаващите старания на Ватикана да ангажира софтуерните водачи в етичните полемики към AI.

Anthropic сега взе участие в правосъдни разногласия с администрацията на Тръмп по отношение на достъпа до технологии и контролиране, свързани с AI.

Ола приветства намесата на папата и сподели, че външният надзор на фирмите за AI е нужен заради големите обществени и стопански последствия, свързани с технологията.

„ Имаме потребност от повече светът — религиозни общности, гражданско общество, учени, държавни управления — да създадат това, което Негово светейшество е направил тук “, сподели Ола.

Той предизвести за „ действителна опция ИИ да измести човешкия труд в доста огромен мащаб “.

Папата приканва разработчиците да забавят темпото

В цялата енциклика Лео прикани непосредствено разработчиците на ИИ, корпоративните водачи и политиците да спрат и деликатно обмислят дълготрайните последствия от дейностите си.

Той ги прикани да дадат приоритет на благосъстоянието на човечеството пред финансовите облаги или геополитическата конкуренция.

Намесата на папата идва в миг, когато компаниите за изкуствен интелект, в това число OpenAI и Anthropic, не престават да притеглят оценки на стойност стотици милиарди долари, което акцентира възходящото въздействие на частните софтуерни компании върху бъдещето на световните стопански системи и общества.

Лео оформи дебата за ИИ като освен софтуерен или политически, само че и надълбоко честен и нравствен.

„ Необходими са постоянни законови рамки, самостоятелен контрол, осведомени консуматори и политическа система, която не се отхвърля от отговорността си “, написа той.