Папата, някога жертва на изображения, генерирани от AI, призовава за договор за регулиране на изкуствения интелект
Папа Франциск призовава за международен договор, който да гарантира, че изкуственият интелект се разработва и използва етично
От NICOLE WINFIELD Associated Press, 14 декември 2023 г., 5:35 ч.РИМ -- Папа Франциск в четвъртък призова за международен договор, който да гарантира, че изкуственият интелект е разработен и използвани етично, твърдейки, че рисковете от технологията, лишена от човешки ценности като състрадание, милост, морал и прошка, са твърде големи. , глобално регулиране на AI в годишното си послание за Световния ден на мира, който Католическата църква празнува всеки 1 януари. Ватиканът публикува текста на съобщението в четвъртък.
За Франсис привлекателността е донякъде лична: по-рано тази година, генерирано от AI изображение на него, облечен в луксозно бяло пухено яке, стана вирусно, показвайки колко бързо реалистични дълбоки фалшиви изображения могат да се разпространят онлайн.
Съобщението на папата беше публикувано само дни след като преговарящите от Европейския съюз осигуриха временно одобрение на първите в света всеобхватни правила за ИИ, които се очаква да служат като златен стандарт за правителствата, които обмислят тяхното собствено регулиране.
Изкуственият интелект привлече вниманието на света през последната година благодарение на спиращия дъха напредък на авангардни системи като ChatGPT на OpenAI, които заслепиха потребителите с възможността за създаване на човешки текст, снимки и песни. Но технологията също породи страхове относно рисковете, които бързо развиващата се технология създава за работните места, поверителността и защитата на авторските права и дори за самия човешки живот.
Франсис призна обещанието, което AI предлага и похвали технологичния напредък като проява на креативността на човешкия интелект, повтаряйки посланието, което Ватикана отправи на тазгодишното Общо събрание на ООН, където множество световни лидери повдигнаха обещанията и опасностите от технологията.
Но новото му послание за мир отиде по-далеч и подчерта сериозните, екзистенциални опасения, повдигнати от етици и защитници на човешките права за технологията, която обещава да трансформира ежедневието по начини, които могат да нарушат всичко - от демократичните избори до изкуството.
Той настоя, че технологичното развитие и внедряването на ИИ трябва да държи на първо място загрижеността за гарантиране на основните човешки права, насърчаване на мира и предпазване от дезинформация, дискриминация и изкривяване.
Неговата най-голяма тревога беше посветена на използването на AI в сектора на оръжията, което често е било фокус на папата йезуит, който нарича дори производителите на традиционни оръжия „търговци на смърт."
Той отбеляза, че дистанционните оръжейни системи вече са довели до „дистанциране от огромната трагедия на войната и намалено възприемане на опустошението, причинено от тези оръжия системи и тежестта на отговорността за тяхното използване.“
„Уникалният капацитет за морална преценка и вземане на етични решения е повече от сложна колекция от алгоритми и този капацитет не може да бъде намален до програмиране на машина,” пише той. LAWS), твърдейки, че светът няма нужда от нови технологии, които просто „в крайна сметка насърчават безумието на войната“. за дълбоките последици върху човечеството от автоматизираните системи, които класират гражданите или ги категоризират. Той отбеляза, че подобна технология може да определи надеждността на кандидата за ипотека, правото на мигрант да получи политическо убежище или шанса за повторно престъпление от някой, който преди това е осъден за престъпление.
„Не трябва да се позволява на алгоритмите да определят как разбираме човешките права, да оставят настрана основните човешки ценности на състрадание, милост и прошка или да елиминират възможността на човек, който се променя и оставя своето минало зад гърба си“, пише той.
За Франциск проблемът засяга някои от приоритетите му като папа да осъжда социалните несправедливости , застъпва се за мигрантите и служи на затворници и тези в периферията на обществото.
Посланието на папата не се задълбочи в подробности за възможен обвързващ договор, освен за казват, че трябва да се договори на световно ниво, както за насърчаване на най-добрите практики, така и за предотвратяване на вредни. Не може да се вярва само на технологичните компании, че ще се саморегулират, каза той.
Той пренасочи аргументите, които е използвал преди, за да осъди мултинационалните компании, които са опустошили националните ресурси на Земята и са довели до обедняване на коренното население народи, които живеят от тях.
Свободата и мирното съжителство са застрашени „винаги, когато човешките същества се поддадат на изкушението към егоизма, личния интерес, желанието за печалба и жаждата за власт“, той написа.
___
Келвин Чан допринесе от Лондон.
