Папа Франциск добавя своя глас към призивите за международен договор за регулиране на ИИ

Папата се разочарова от технологията по-рано тази година, когато изображение на него в бяло пухено яке, направено благодарение на генеративен AI, стана вирусно.

Папа Франциск в четвъртък прикани за интернационален контракт, който да подсигурява, че изкуственият разсъдък (AI) се създава и употребява етично, като твърди, че рисковете технологията да няма човешки полезности като съчувствие, благосклонност, морал и амнистия са прекомерно огромни.

Понтифексът добави своя глас към възходящите апели за обвързващо, световно контролиране на ИИ в годишното си обръщение за Световния ден на мира, който Католическата черква чества всеки 1 януари. Ватиканът разгласява текста на известие в четвъртък.

За Франсис апелът е ненапълно персонален.

По-рано тази година, генерирано от AI изображение на него, облечен в първокласно бяло пухено яке, стана вирусно, показвайки какъв брой бързо могат да се разпространят реалистични дълбоки подправени изображения онлайн.

Съобщението на папата беше оповестено единствено дни откакто договарящите от Европейски Съюз осигуриха краткотрайно утвърждение за това се чака да служи като златен стандарт за държавните управления, обмислящи личното си контролиране.

AI притегли вниманието на света през последната година с помощта на спиращия дъха прогрес на авангардни системи като ChatGPT на OpenAI, които заслепиха потребителите с опцията да основават човешки текст, фотоси и песни.

Но технологията също породи страхове по отношение на рисковете, които бързо разрастващата се технология съставлява за работните места, поверителността и отбраната на авторските права и даже за самия човешки живот.

Екзистенциални опасения към ИИ

Франсис призна обещанието, което предлага ИИ, и похвали софтуерния прогрес като демонстрация на творчеството на човешкия разсъдък, повтаряйки посланието Ватиканът се произнесе на тазгодишната Генерална асамблея на Организация на обединените нации, където голям брой международни водачи повдигнаха обещанията и заплахите от технологията.

Изкуственият разсъдък може да съставлява най-високия залог на нашето бъдеще. Ако се окаже зле, човечеството е отговорно.

Но новото му обръщение за мир отиде по-далеч и акцентира сериозните, екзистенциални опасения, повдигнати от етиците и бранителите на човешките права по отношение на технологията, която дава обещание да трансформира всекидневието живота по способи, които могат да нарушат всичко - от демократичните избори до изкуството.

„ Изкуственият разсъдък може да съставлява най-големия залог на нашето бъдеще “, сподели кардинал Майкъл Черни от службата за развиване на Ватикана, който показа посланието на конференция в четвъртък.

„ Ако се окаже зле, човечеството е отговорно “.

Документът упорства, че софтуерното развиване и внедряването на AI би трябвало да запазят преди всичко загрижеността за гарантиране на главните човешки права, поощряване на мира, и предотвратяване от дезинформация, дискриминация и деформиране.

Най-голямата паника на Франциск беше отдадена на потреблението на AI в бранша на оръжията, който постоянно е бил фокус на папата йезуит, който назова даже обичайните оръжия основатели на „ търговци на гибел “.

Той означи, че отдалечените оръжейни системи към този момент са довели до „ разграничаване от голямата покруса на войната и понижено разбиране на опустошението, породено от тези оръжейни системи, и тежестта на отговорността за тяхното потребление. “

„ Уникалният потенциал за морална преценка и взимане на етични решения е повече от комплицирана сбирка от логаритми и този потенциал не може да бъде редуциран до програмиране на машина “, написа той.

Той прикани за „ съответен, логичен и пореден “ човешки контрол върху смъртоносните самостоятелни оръжейни системи (или ЗАКОНИ), като твърди, че светът не се нуждае нови технологии, които просто „ в последна сметка предизвикват нелепостта на войната “.

На по-основно равнище той предизвести за дълбоките последствия върху човечеството от автоматизираните системи, които класират жителите или ги категоризират.

Технологичните компании не би трябвало да се саморегулират

В допълнение към заканите за работните места по света, които могат да бъдат изпълнявани от роботи, означи папа Франциск че технологията може да дефинира надеждността на претендент за ипотека, правото на мигрант да получи политическо леговище или шанса за наново закононарушение от някой, който преди този момент е наказан за закононарушение.

„ Не би трябвало да се разрешава на логаритмите да дефинират по какъв начин разбираме правата на индивида, да оставят настрани главните човешки полезности на съчувствие, благосклонност и амнистия или да отстраняват опцията индивидът да се промени и да напусне своето минало откъм гърба “, написа той.

За Франциск въпросът визира някои от неговите цели като папа да осъжда обществените несправедливости, да се застъпва за мигрантите и да служи на пандизчиите и тези в периферията на обществото.

Посланието на папата не се задълбочи в детайлности за вероятен обвързващ контракт, като се изключи че сподели, че той би трябвало да бъде контрактуван на световно равнище, както за поощряване на най-хубавите практики, по този начин и за попречване на нездравословни. Не може да се разчита на софтуерните компании, че сами ще се контролират, сподели той.

Той пренасочи причините, които е употребявал преди, с цел да осъди мултинационалните компании, които са опустошили националните запаси на Земята и обедняли коренното население, което живее от тях.

Свободата и мирното общуване са застрашени, „ когато човешките същества се поддадат на изкушението към егоизма, персоналния интерес, желанието за облага и жаждата за власт “, ​​пише той.

Барбара Капуто, професор в Центъра за изкуствен интелект на Политехническия университет в Торино, означи, че към този момент има доближаване по някои фундаментални етични въпроси и избрания както в регламента на Европейски Съюз, по този начин и в изпълнителната заповед, показана от президента на Съединени американски щати Джо Байдън през октомври.

„ Това не е малко нещо “, сподели тя на брифинга във Ватикана. „ Това значи, че всеки, който желае да създава изкуствен интелект, има обща регулаторна база “.