Папа Франциск призовава за глобален договор за регулиране на изкуствения интелект: „Рискуваме да попаднем в спиралата на технологична диктатура“

Папа Франциск в четвъртък призова за международен договор, който да гарантира, че изкуственият интелект се разработва и използва етично, като твърди, че рисковете от технологията, лишена от човешки ценности като състрадание, милост, морал и прошка, са твърде големи.

Франсис добави гласа си към нарастващите призиви за обвързващо, глобално регулиране на ИИ в годишното си послание за Световния ден на мира , който Католическата църква празнува всеки 1 януари. Ватиканът публикува текста на посланието в четвъртък.

За Франциск призивът е донякъде личен: по-рано тази година генерирано от AI изображение, на което той носи луксозно бяло пухено яке стана вирусно, показвайки колко бързо реалистичните дълбоки фалшиви изображения могат да се разпространят онлайн.

Изкуственият интелект привлече вниманието на света през последната година благодарение на спиращия дъха напредък на авангардни системи като ChatGPT на OpenAI, които са заслепили потребителите със способността да създават човешки текст, снимки и песни. Но технологията също породи страхове относно рисковете, които бързо развиващата се технология създава за работните места, поверителността и защитата на авторските права и дори за самия човешки живот.

Франсис призна обещанието, което AI предлага, и похвали технологичния напредък като проява на креативността на човешкия интелект, повтаряйки посланието, което Ватикана отправи на тазгодишното Общо събрание на ООН, където множество световни лидери повдигнаха обещанието и опасностите на технологията.

Но новото му послание за мир отиде по-далеч и подчерта сериозните, екзистенциални опасения, повдигнати от етици и защитници на човешките права относно технологията, която обещава да трансформира ежедневието по начини, които могат да разрушат всичко от демократични избори до изкуство.

„Изкуственият интелект може да представлява най-големия залог на нашето бъдеще“, каза кардинал Майкъл Черни от службата за развитие на Ватикана, който представи съобщението на пресконференция в четвъртък. „Ако се окаже зле, човечеството е виновно.“

Документът настоява, че технологичното развитие и внедряването на AI трябва да запази на първо място загрижеността за гарантиране на основните човешки права, насърчаване на мира и предпазване от дезинформация, дискриминация и изкривяване.

Най-голямата тревога на Франсис беше посветена на използването на AI в сектора на оръжията, което често е в центъра на вниманието на папата йезуит, който нарече дори производителите на традиционни оръжия „търговци на смърт“.

Той отбеляза, че дистанционните оръжейни системи вече са довели до „дистанциране от огромната трагедия на войната и намалено възприемане на опустошението, причинено от тези оръжейни системи и тежестта на отговорността за тяхното използване.“ p>

„Уникалният капацитет за морална преценка и вземане на етични решения е повече от сложна колекция от алгоритми и този капацитет не може да бъде сведен до програмиране на машина“, пише той.

Той призова за „адекватен, смислен и последователен“ човешки надзор върху смъртоносните автономни оръжейни системи (или ЗАКОНИ), твърдейки, че светът няма нужда от нови технологии, които просто „в крайна сметка насърчават безумието на войната“.

На на по-основно ниво, той предупреди за дълбоките последици върху човечеството от автоматизираните системи, които класират гражданите или ги категоризират. В допълнение към заплахите за работните места по света, които могат да бъдат извършвани от роботи, Франсис отбеляза, че подобна технология може да определи надеждността на кандидата за ипотека, правото на мигрант да получи политическо убежище или шанса да извърши повторно престъпление от някого преди това осъден за престъпление.

„Не трябва да се позволява на алгоритмите да определят как разбираме правата на човека, да оставят настрана основните човешки ценности на състрадание, милост и прошка или да елиминират възможността индивидът да се промени и да напусне своето минало отзад“, пише той.

За Франциск въпросът засяга някои от неговите приоритети като папа да осъжда социалните несправедливости, да се застъпва за мигрантите и да служи на затворниците и тези в периферията на обществото.

Посланието на папата не се задълбочи в подробности за възможен обвързващ договор, освен че каза, че той трябва да бъде договорен на глобално ниво, както за насърчаване на най-добрите практики, така и за предотвратяване на вредни. Не може да се има доверие на технологичните компании сами по себе си, каза той.

Той пренасочи аргументите, които е използвал преди, за да осъди мултинационалните компании, които са опустошили националните ресурси на Земята и обедняли коренното население, което живее от тях.

Свободата и мирното съжителство са застрашени, „когато човешките същества се поддадат на изкушението към егоизма, личния интерес, желанието за печалба и жаждата за власт“, ​​пише той.

Барбара Капуто, професор в Центъра за изкуствен интелект на Политехническия университет в Торино, отбеляза, че вече има сближаване по някои фундаментални етични въпроси и дефиниции както в регламента на ЕС, така и в изпълнителната заповед, представена от президента на САЩ Джо Байдън през октомври.

„Това не е малко нещо“, каза тя на брифинга във Ватикана. „Това означава, че всеки, който иска да произвежда изкуствен интелект, има обща регулаторна база.“

Последвайте ни в