Папата призовава за международен договор за регулиране на изкуствения интелект
Папа Франциск призова за международен договор, който да гарантира, че изкуственият интелект се разработва и използва етично, като твърди, че рисковете от технологията, в която липсват човешки ценности като състрадание, милост, морал и прошка са твърде големи.
Франсис добави гласа си към нарастващите призиви за обвързващо, глобално регулиране на ИИ в годишното си послание за Световния ден на мира, който Католическата църква празнува всеки 1 януари. Ватиканът публикува текста от съобщението в четвъртък.
За Франсис призивът е донякъде личен: по-рано тази година генерирано от AI изображение на него, облечен в луксозно бяло пухено яке, стана вирусно, показвайки колко бързо реалистичните дълбоки фалшиви изображения могат разпространено онлайн.
Съобщението на папата беше публикувано само дни след като преговарящите от Европейския съюз осигуриха временно одобрение на първите в света всеобхватни правила за изкуствен интелект, които се очаква да служат като златен стандарт за правителствата, обмислящи собствено регулиране.
Изкуственият интелект привлече вниманието на света през последната година благодарение на спиращия дъха напредък на авангардни системи като OpenAI ChatGPT, които заслепиха потребителите със способността да създават човешки текст, снимки и песни.
Но технологията също породи страхове относно рисковете, които бързо развиващата се технология представлява за работните места, поверителността и защитата на авторските права и дори самият човешки живот.
Франциск призна обещанието, което AI предлага, и похвали технологичния напредък като проява на креативността на човешкия интелект, повтаряйки посланието, което Ватикана отправи на тазгодишното Общо събрание на ООН, където множество световни лидери повдигнаха обещанията и опасностите на технологията.
Но новото му послание за мир отиде по-далеч и подчерта сериозните, екзистенциални опасения, повдигнати от етиците и защитниците на човешките права относно технологията, която обещава да трансформира ежедневието по начини които могат да нарушат всичко - от демократичните избори до изкуството.
Той настоя, че технологичното развитие и внедряването на AI трябва да държи на първо място загрижеността за гарантиране на основните човешки права, насърчаване на мира и предпазване от дезинформация, дискриминация и изкривяване.
Неговата най-голяма тревога беше посветена на използването на AI в сектора на оръжията, което често беше фокус на папата йезуит, който нарече дори производителите на традиционни оръжия „търговци на смърт“.
Той отбеляза, че дистанционните оръжейни системи вече са довели до „дистанциране от огромната трагедия на войната и намалено възприемане на опустошението причинени от тези оръжейни системи и тежестта на отговорността за тяхното използване”.
„Уникалният капацитет за морална преценка и вземане на етични решения е нещо повече от сложна колекция от алгоритми и този капацитет не може да бъде сведен до програмиране на машина“, пише той.
На по-основно ниво той предупреди за дълбоките последици върху човечеството от автоматизираните системи, които класират гражданите или ги категоризират.
Той отбеляза, че такива технологията може да определи надеждността на кандидата за ипотека, правото на мигрант да получи политическо убежище или шанса за повторно престъпление от някой, който преди това е бил осъден за престъпление.
„Не трябва да се позволява на алгоритмите да определят как ние разбираме правата на човека, да оставим настрана основните човешки ценности на състрадание, милост и прошка, или да премахнем възможността индивидът да се промени и да остави своето минало зад гърба си“, пише той.
За Франциск, въпросът засяга някои от неговите приоритети като папа да осъжда социалните несправедливости, да се застъпва за мигрантите и да служи на затворниците и тези в периферията на обществото.
Посланието на папата не се задълбочава в подробности за евентуален обвързващ договор освен да се каже, че трябва да се договори на глобално ниво, както за насърчаване на най-добрите практики, така и за предотвратяване на вредни. Не може да се има доверие на технологичните компании, които сами ще се регулират, каза той.
