Папата, някога жертва на изображения, генерирани от AI, призовава за договор за регулиране на изкуствения интелект
РИМ — Папа Франциск в четвъртък призова за международен договор, който да гарантира, че изкуственият интелект се разработва и използва етично, аргументирайки се че рисковете от технологията, лишена от човешки ценности като състрадание, милост, морал и прошка, са твърде големи.
Франсис добави гласа си към нарастващите призиви за обвързващо, глобално регулиране на ИИ в годишното си послание за Световният ден на мира, който Католическата църква чества всеки 1 януари. Ватиканът публикува текста на посланието в четвъртък.
За Франциск призивът е донякъде личен: По-рано тази година , генерирано от AI изображение на него, облечен в луксозно бяло пухено яке, стана вирусно, показвайки колко бързо реалистични дълбоки фалшиви изображения могат да се разпространят онлайн.
Съобщението на папата беше публикувано само дни след преговарящите на Европейския съюз осигури временно одобрение на първите в света всеобхватни правила за изкуствен интелект, които се очаква да служат като златен стандарт за правителствата, обмислящи тяхното собствено регулиране.
Изкуственият интелект привлече вниманието на света през последната година благодарение на спиращите дъха напредък чрез авангардни системи като ChatGPT на OpenAI, които зашеметиха потребителите със способността да създават човешки текст, снимки и песни. Но технологията също породи страхове относно рисковете, които бързо развиващата се технология представлява за работните места, поверителността и защитата на авторските права и дори за самия човешки живот.
Франсис призна обещанието, което AI предлага, и похвали технологичния напредък като проява на креативността на човешкия интелект, повтаряйки посланието, изпратено от Ватикана на тазгодишното Общо събрание на ООН, където множество световни лидери повдигнаха обещанията и опасностите на технологията.
Но неговата нова Посланието за мир отиде по-далеч и подчерта сериозните, екзистенциални опасения, повдигнати от етици и защитници на правата на човека относно технологията, която обещава да трансформира ежедневието по начини, които могат да нарушат всичко - от демократичните избори до изкуството.
„Изкуственият интелект може да представлява най-големия залог на нашето бъдеще“, каза кардинал Майкъл Черни от службата за развитие на Ватикана, който представи съобщението на пресконференция в четвъртък. „Ако се окаже зле, човечеството е виновно.“
Документът настоява, че технологичното развитие и внедряването на ИИ трябва да запазят първостепенно значение за гарантирането на основните човешки права, насърчаването на мира и предпазването от дезинформация, дискриминация и изкривяване.
Най-голямата тревога на Франциск беше посветена на използването на AI в сектора на оръжията, който често е бил фокус на папата йезуит, който призовава дори производителите на традиционни оръжия „търговци на смърт“.
Той отбеляза, че дистанционните оръжейни системи вече са довели до „дистанциране от огромната трагедия на войната и намалено възприемане на опустошението, причинено от тези оръжейни системи и бреме на отговорност за тяхното използване.“
„Уникалният капацитет за морална преценка и вземане на етични решения е повече от сложна колекция от алгоритми и този капацитет не може да бъде сведен до програмиране на машина ”, написа той.
Той призова за „адекватен, смислен и последователен“ човешки надзор върху смъртоносните автономни оръжейни системи (или ЗАКОНИ), твърдейки, че светът няма нужда от нови технологии, които просто „в крайна сметка насърчаване на глупостта на войната.“
На по-основно ниво той предупреди за дълбоките последици върху човечеството от автоматизираните системи, които класират гражданите или ги категоризират. В допълнение към заплахите за работните места по света, които могат да бъдат извършвани от роботи, Франсис отбеляза, че подобна технология може да определи надеждността на кандидата за ипотека, правото на мигрант да получи политическо убежище или шанса да извърши повторно престъпление от някого преди това осъден за престъпление.
„Не трябва да се позволява на алгоритмите да определят как разбираме човешките права, да оставят настрана основните човешки ценности на състрадание, милост и прошка или да елиминират възможността за индивид, който се променя и оставя своето минало зад гърба си“, пише той.
За Франциск въпросът засяга някои от приоритетите му като папа да осъжда социалните несправедливости, да се застъпва за мигрантите и да служи на затворници и тези в периферията на обществото.
Посланието на папата не се задълбочи в подробности за възможен обвързващ договор, освен че каза, че той трябва да бъде договорен на световно ниво, за да насърчава най-добри практики и предотвратяване на вредни. Не може да се вярва само на технологичните компании, че ще се регулират, каза той.
Той пренасочи аргументите, които е използвал преди, за да осъди мултинационалните компании, които са опустошили националните ресурси на Земята и обедняли коренното население, което живее от тях.
Свободата и мирното съжителство са застрашени „винаги, когато човешките същества се поддадат на изкушението към егоизма, личния интерес, желанието за печалба и жаждата за власт“, пише той.
Барбара Капуто, професор в Центъра за изкуствен интелект на Политехническия университет в Торино, отбеляза, че вече има сближаване по някои основни етични въпроси и дефиниции както в регламента на ЕС, така и в изпълнителната заповед, представена от президента на САЩ Джо Байдън през октомври .
„Това не е малко нещо“, каза тя на брифинга във Ватикана. „Това означава, че всеки, който иска да произвежда изкуствен интелект, има обща регулаторна база.“
Асошиейтед прес
