Най-добрият експерт във Ватикана по етиката на изкуствения интелект е монах от средновековен францискански орден
РИМ — монах Паоло Бенанти носи обикновените кафяви одежди на своя средновековен францискански орден, докато се занимава с един от най-належащите въпроси в съвремието: как да управляваме изкуствения интелект, така че да обогатява — а не да експлоатира — живота на хората.
Бенанти е човекът, който Ватикана се обръща към технологията и той има ухо за Папа Франциск, както и някои от най-добрите инженери и ръководители на Силиконовата долина.
С опит в инженерството, докторска степен по морална теология и страст към това, което той нарича „етика на технологиите“, “ 50-годишният италиански свещеник е на спешна мисия, която споделя с Франциск, който в годишното си мирно послание за 2024 г. настоя за международен договор, който да гарантира етичната употреба на AI технологията.
„Каква е разликата между човек, който съществува, и машина, която функционира?“ каза Бенанти в интервю тази седмица за Асошиейтед прес по време на почивка в Папския Григориански университет, където той преподава курсове като морална теология и биоетика на студенти, подготвящи се за свещеничество. „Това е може би най-големият въпрос на тези времена, защото сме свидетели на предизвикателство, което всеки ден става все по-дълбоко с машина, която хуманизира.“
Бенанти е член на ООН Консултативен орган по изкуствен интелект, както и ръководител на италианска правителствена комисия, натоварена с предоставянето на препоръки как да се предпази журналистиката от фалшиви новини и друга дезинформация. Той също така е консултант на Папската академия за живота на Ватикана.
Бенанти казва, че помага за „по-доброто изясняване на по-техническите термини за Светия отец“ по време на техните срещи. Знанията му бяха полезни за среща през 2023 г. във Ватикана между Франциск и президента на Microsoft Брад Смит, която се фокусира върху това как изкуственият интелект може да помогне или да навреди на човечеството.
Франсис и Смит също бяха обсъдили изкуствения интелект “ в услуга на общото благо” по време на среща преди няколко години, според Ватикана. Тъй като папството е силно внимателен към онези, които живеят в периферията на обществото, Франциск даде ясна загриженост, че AI технологията може да ограничи правата на човека, да речем, като окаже отрицателно въздействие върху молбата за ипотека на купувач на жилище, молбата за убежище на мигрант или оценката на вероятността нарушителят да се повтори престъпление.
"Ясно е, че ако изберем някои данни, които не са достатъчно приобщаващи, ще имаме някои избори, които не са приобщаващи", каза Бенанти, чийто религиозен орден е основан в началото на 13-ти век от Св. Франциск от Асизи, който се отказва от земните богатства и насърчава благотворителните дела.
Microsoft за първи път се свърза с Бенанти преди няколко години за мислите му относно технологиите, каза монахът . През 2023 г. Смит направи подкаст с Бенанти в Рим, описвайки монаха като внасящ „една от най-завладяващите комбинации в света“ по отношение на неговия опит в инженерството, етиката и технологиите в дебата за ИИ.
Бенанти, който беше една година срамежлив да получи инженерната си степен в Римския университет Сапиенца, когато изостави дипломата — а също и приятелката си — за да се присъедини към францисканците на 20-те си години, описа как изкуственият интелект може да бъде „наистина мощен инструмент“ за намаляване на цената на медицината и овластяване на лекарите да помагат на повече хора.
Но той също така описа етичните последици от технология, която може да има същите възможности като хората - или може би дори повече.
„Проблемът не е в използването на (AI), а в управлението“, каза монахът. „И тук се намесва етиката – намирането на правилното ниво на употреба в социален контекст.“
Бенанти отбеляза, че голяма част от данните, които информират ИИ, се подават от нископлатени работници, много в развиващите се страни, вкопани в история на колониализъм и експлоатирана работна сила.
„Не искам това да се помни като сезонът, в който извличаме от глобалния Юг когнитивни ресурси, " той каза. Ако някой изследва „най-добрите инструменти, които произвеждаме в ИИ“ на Запад, ще види, че ИИ е „обучен с нископлатени работници от англоговорящи бивши колонии“.
Как да управляваме AI е проблем, който страните по целия свят се опитват да разрешат. Европейският съюз стана пионер в края на миналата година, когато преговарящите осигуриха сделка, която проправя пътя за правен надзор върху AI технологията.
В Италия премиерът Джорджия Мелони, която се притеснява, че AI може да доведе до загубата на работни места ще направи технологията фокус на тазгодишната среща на върха на Г-7, домакин на която е Италия. Като част от тези усилия Мелони в четвъртък се срещна с гостуващия основател на Microsoft Бил Гейтс в Рим, среща, на която присъства и Бенанти.
От своя страна монахът каза пред АП, че регулирането на изкуствения интелект не трябва да означава ограничаване на неговото развитие.
„Това означава да ги поддържаме съвместими с тази крехка система, която е демокрацията, която днес изглежда е най-добрата система“, каза Бенанти.
Асошиейтед прес
