Папа Франциск добавя своя глас към призивите за международен договор за регулиране на ИИ

Папата се разочарова от технологията по-рано тази година, когато изображение на него в бяло пухено яке, направено с помощта на генеративен AI, стана вирусно.

Папа Франциск в четвъртък призова за международен договор, който да гарантира, че изкуственият интелект (AI) се разработва и използва етично, като твърди, че рисковете технологията да няма човешки ценности като състрадание, милост, морал и прошка са твърде големи .

Понтифексът добави своя глас към нарастващите призиви за обвързващо, глобално регулиране на ИИ в годишното си послание за Световния ден на мира, който Католическата църква празнува всеки 1 януари. Ватиканът публикува текста на съобщение в четвъртък.

За Франсис призивът е донякъде личен.

По-рано тази година, генерирано от AI изображение на него, облечен в луксозно бяло пухено яке, стана вирусно, показвайки колко бързо могат да се разпространят реалистични дълбоки фалшиви изображения онлайн.

Съобщението на папата беше публикувано само дни след като преговарящите от ЕС осигуриха временно одобрение за това се очаква да служи като златен стандарт за правителствата, обмислящи собственото си регулиране.

AI привлече вниманието на света през последната година благодарение на спиращия дъха напредък на авангардни системи като ChatGPT на OpenAI, които заслепиха потребителите с възможността да създават човешки текст, снимки и песни.

Но технологията също породи страхове относно рисковете, които бързо развиващата се технология представлява за работните места, поверителността и защитата на авторските права и дори за самия човешки живот.

Екзистенциални опасения около ИИ

Франсис призна обещанието, което предлага ИИ, и похвали технологичния напредък като проява на креативността на човешкия интелект, повтаряйки посланието Ватиканът се произнесе на тазгодишната Генерална асамблея на ООН, където множество световни лидери повдигнаха обещанията и опасностите от технологията.

Изкуственият интелект може да представлява най-високия залог на нашето бъдеще. Ако се окаже зле, човечеството е виновно.

Но новото му послание за мир отиде по-далеч и подчерта сериозните, екзистенциални опасения, повдигнати от етиците и защитниците на човешките права относно технологията, която обещава да трансформира ежедневието живота по начини, които могат да нарушат всичко - от демократичните избори до изкуството.

„Изкуственият интелект може да представлява най-големия залог на нашето бъдеще“, каза кардинал Майкъл Черни от службата за развитие на Ватикана, който представи посланието на пресконференция в четвъртък.

„Ако се окаже зле, човечеството е виновно“.

Документът настоява, че технологичното развитие и внедряването на AI трябва да запазят на първо място загрижеността за гарантиране на основните човешки права, насърчаване на мира , и предпазване от дезинформация, дискриминация и изкривяване.

Най-голямата тревога на Франциск беше посветена на използването на AI в сектора на оръжията, който често е бил фокус на папата йезуит, който нарече дори традиционните оръжия създатели на „търговци на смърт“.

Той отбеляза, че дистанционните оръжейни системи вече са довели до „дистанциране от огромната трагедия на войната и намалено възприемане на опустошението, причинено от тези оръжейни системи, и тежестта на отговорността за тяхното използване.“

„Уникалният капацитет за морална преценка и вземане на етични решения е повече от сложна колекция от алгоритми и този капацитет не може да бъде сведен до програмиране на машина“, пише той.

Той призова за „адекватен, смислен и последователен“ човешки надзор върху смъртоносните автономни оръжейни системи (или ЗАКОНИ), като твърди, че светът не се нуждае нови технологии, които просто „в крайна сметка насърчават глупостта на войната“.

На по-основно ниво той предупреди за дълбоките последици върху човечеството от автоматизираните системи, които класират гражданите или ги категоризират.

Технологичните компании не трябва да се саморегулират

В допълнение към заплахите за работните места по света, които могат да бъдат изпълнявани от роботи, отбеляза папа Франциск че технологията може да определи надеждността на кандидат за ипотека, правото на мигрант да получи политическо убежище или шанса за повторно престъпление от някой, който преди това е осъден за престъпление.

„Не трябва да се позволява на алгоритмите да определят как разбираме правата на човека, да оставят настрана основните човешки ценности на състрадание, милост и прошка или да елиминират възможността индивидът да се промени и да напусне своето минало отзад“, пише той.

За Франциск въпросът засяга някои от неговите приоритети като папа да осъжда социалните несправедливости, да се застъпва за мигрантите и да служи на затворниците и тези в периферията на обществото.

Посланието на папата не се задълбочи в подробности за възможен обвързващ договор, освен че каза, че той трябва да бъде договорен на глобално ниво, както за насърчаване на най-добрите практики, така и за предотвратяване на вредни. Не може да се разчита на технологичните компании, че сами ще се регулират, каза той.

Той пренасочи аргументите, които е използвал преди, за да осъди мултинационалните компании, които са опустошили националните ресурси на Земята и обедняли коренното население, което живее от тях.

Свободата и мирното съжителство са застрашени, „когато човешките същества се поддадат на изкушението към егоизма, личния интерес, желанието за печалба и жаждата за власт“, ​​пише той.

Барбара Капуто, професор в Центъра за изкуствен интелект на Политехническия университет в Торино, отбеляза, че вече има сближаване по някои фундаментални етични въпроси и определения както в регламента на ЕС, така и в изпълнителната заповед, представена от президента на САЩ Джо Байдън през октомври.

„Това не е малко нещо“, каза тя на брифинга във Ватикана. „Това означава, че всеки, който иска да произвежда изкуствен интелект, има обща регулаторна база“.

Последвайте ни в