Папа Лъв призовава за „разоръжаване“ на ИИ в фокусирана върху технологиите енциклика

Рим — Папа Лъв XIV издаде значим документ в понеделник, фокусиран значително върху последствията от възхода на изкуствения разсъдък за човечеството, предупреждавайки, че технологията може да направи самата цивилизация „ по-малко човешка “.

Папа Лъв, който неведнъж е влизал в спор с администрацията на Тръмп за войната в Иран и някои Съединени американски щати. религиозната аргументация на формалните лица за това, също наподобява отхвърли аргумента, че спорът е нужна превантивна мярка за американската сигурност.

„ Днес, повече от всеки път, без да се визира правото на самоотбрана в най-строгия смисъл, е значимо да се удостовери още веднъж, че теорията за „ справедливата война “, която прекомерно постоянно се употребява за оправдаване на всевъзможен тип война, към този момент е остаряла “, написа той в своята Magnifica Humanitas (Великолепно човечество), обучение от 82 страници, известно като енциклика.

Франсис издаде и първото по рода си опрощение за ролята на Ватикана в улеснението и оправдаването на трансатлантическата търговия с плебеи, наричайки я „ рана в християнската памет “.

„ За това, в името на Църквата, откровено апелирам за амнистия “, написа той. 

Но по-голямата част от енцикликата беше отдадена на това, което Лео ясно вижда като рискована прегръдка на човечеството с ИИ.

Папа Лъв предизвестява, че ИИ може да направи цивилизацията „ по-малко човешка “

Когато първият папа в света, роден в Съединени американски щати, избра името си предходната година, Лео съзнателно се базира на последния папа, който го носи: Папа Лъв XIII, чиято забележителна енциклика от 1891 година Rerum Novarum оказа помощ на Католическата черква да премине през катаклизма на Индустриалната гражданска война.

Повече от век по-късно роденият в Чикаго опита нещо сходно амбициозно за революцията на ИИ.

В Magnifica Humanitas водачът на към 1,4 милиарда католици в света предизвести, че изкуствените разузнаването рискува да направи цивилизацията „ по-малко човешка “, изпразвайки работата, концентрирайки благосъстояние и свеждайки хората до системи, ръководени от данни и успеваемост, а не от достолепие и морал.

„ Належащото обвързване “, написа Лео, е „ да останем надълбоко човешки “. масиви от данни, водени от желанието да се обезпечи геополитическо или комерсиално владичество. "  

Документът бележи първата огромна папска енциклика, написана в ерата на генеративния изкуствен интелект, и обрисува актуалната софтуерна гражданска война не просто като икономическо предизвикателство, само че и като това, което папата назовава „ антропологично “ – рецесия, засягаща смисъла и задачата на човечеството.

„ Моля, имайте поради, че енцикликата не е за ИИ “, кардинал Майкъл Черни, един от чиновниците на Ватикана, който оказа помощ за представянето на документа, сподели за CBS News. „ Става въпрос за човешкото положение по време на AI. “

С извънредно пряк език за документ на Ватикана, Лео, който има тапия по математика, предизвести за възходящата мощност на ИТ фирмите, с въздействие, което може да съперничи на това на държавните управления. 

В същото време папата акцентира, че технологията сама по себе си не е зло.  

„ Изкуственият разсъдък е огромно човешко достижение “, сподели кардинал Черни. „ Имаме на какво да се възхищаваме и защо да сме благодарни… Но не можем да се откажем от отговорността. “  

Притесненията на Ватикана се простират надалеч оттатък Силиконовата котловина. Енцикликата неведнъж отразява необятните публични опасения, че изкуственият разсъдък може да изпразни междинната класа; ⁠елиминиране на голям брой работни места; задълбочаване на неравенството; подхранва обществената фрагментация; и възстановява водената от AI война.

„ Няма логаритъм, кадърен да направи войната морално допустима “, се споделя в енцикликата.

„ Ограничения, които от време на време могат да опонират на правенето на вярното нещо “

Това предизвестие идва, когато военните по света бързо интегрират AI в оръжейни системи. CBS News неотдавна наблюдаваше по какъв начин американските сили организират учения в Мароко и видя от първа ръка възходящото потребление на системи за ориентиране с изкуствен интелект и самостоятелни технологии, в това число системи, свързани с Maven, платформата за изкуствен интелект на Пентагона.

Един от по-забележителните аспекти на разпространяването на енцикликата на Лео от Ватикана беше включването на Кристофър Олах, съосновател на AI компания Anthropic, който беше там персонално дружно с високопоставени църковни чиновници в понеделник.

Олах сподели, че AI фирмите работят „ в границите на набор от тласъци и ограничавания, които от време на време могат да опонират на правенето на вярното нещо “, и той приветства приноса извън, в това число от Католическата черква, за „ подтик на събитията в по-добра посока. “

„ Въпросите, повдигнати от AI, са по-големи от изследователската общественост на AI “, той сподели.

Лео сподели, че е приел покана от Ола, " да вървим дружно, да слушаме и да приказваме и дружно да намерим пътя за човечеството ", и той беше убеден, че " дружно можем да отличим главните въпроси на нашето време и затова бъдещето на човечеството. "  

Въпреки че Anthropic постоянно се е представяла като загрижена за сигурността компания за изкуствен интелект, която е „ преди всичко индивида “, администрацията на Тръмп неотдавна я уточни като риск за веригата за доставки поради отхвърли си да разреши на Пентагона да употребява нейната технология в автоматизирани смъртоносни системи или всеобщо домашно наблюдаване. 

Неговите модели обаче остават интегрирани във военни и разследващи приложения, както стана очевидец на CBS News.

На въпрос дали репутацията на Anthropic като насочена към индивида компания за ИИ е повлияла на решението на Ватикана да се ангажира с нея, Черни отговори: „ Сигурен съм, че е по този начин. “

Той обаче акцентира, че разговорът с фирмите за ИИ не би трябвало да се бърка с Ватикана утвърждение.

„ Ние водим разговор с всеки “, сподели Черни. „ Ние не утвърждаваме. “  

Енцикликата неведнъж се връща към концепцията, че заплахите, подбудени от ИИ, не са просто софтуерна, а духовна и екзистенциална парализа.

„ Съкрушени сме “, сподели кардиналът пред CBS News. „ Чувстваме, че в действителност нямаме какво да кажем… и това ни сковава. “  

Попитан дали папата се тормози, че хората стартират да третират ИИ като сурогат на Бог, Черни отговори: „ Да … доста неща стават заместители на Бог и ние ги назоваваме идоли. “

Точно както индустриалната гражданска война трансформира труда и капитала, революцията на ИИ трансформира самото човечество, предизвести папата в своите забележки.