Friar Tech: Най-добрият експерт по етиката на ИИ във Ватикана, който съветва папа Франциск, ООН и Силиконовата долина

Може да изглежда като оксиморон, но главният мозък на Ватикана относно технологията, която в момента най-много оформя нашия свят, идва от средновековния ред.

Отец Паоло Бенанти носи обикновените кафяви одежди на своя средновековен францискански орден, докато преследва един от най-належащите проблеми в съвремието: как да управляваме изкуствения интелект (AI), така че да обогатява - и да не експлоатиране - животите на хората.

Бенанти е човекът, който Ватикана се обръща към технологията и той има ухото на папа Франциск, както и на някои от най-добрите инженери и ръководители на Силиконовата долина.

С опит в инженерството, докторска степен по морална теология и страст към това, което той нарича „етика на технологиите“, 50-годишният италиански свещеник е на спешна мисия, която споделя с Франциск, който в своята годишно мирно послание за 2024 г., настоява за международен договор, който да гарантира етичното използване на AI технологията.

„Каква е разликата между човек, който съществува и машина, която функционира?" каза Бенанти в интервю за Асошиейтед прес по време на почивка в Папския Григориански университет, където преподава курсове като морална теология и биоетика на студенти, подготвящи се за свещеничеството.

„Това е може би най-големият въпрос на тези времена, защото сме свидетели на предизвикателство, което всеки ден става все по-дълбоко с машина, която хуманизира.“

Съветник по AI

h2>

Бенанти е член на Консултативния орган на ООН по изкуствен интелект, както и ръководител на италианска правителствена комисия, натоварена с предоставянето на препоръки как да се предпази журналистиката от фалшиви новини и друга дезинформация.

Той също така е консултант на Папската академия за живота на Ватикана.

Проблемът не е в използването на [AI], а в управлението. И тук се намесва етиката – намирането на правилното ниво на употреба в социален контекст.

Бенанти казва, че помага за „по-доброто изясняване на по-техническите термини за Светия отец“ по време на техните срещи.

Неговите знания бяха полезни за среща през 2023 г. във Ватикана между Франциск и президента на Microsoft Брад Смит, която се фокусира върху това как изкуственият интелект може да помогне или да навреди на човечеството.

Франсис и Смит също бяха обсъдили изкуствения интелект „на службата на общото благо" по време на среща няколко години по-рано, според Ватикана.

С папството, което е силно внимателно към тези, които живеят в периферията на обществото, Франциск даде ясна загриженост, че AI технологията може ограничаване на правата на човека чрез, да речем, отрицателно въздействие върху молбата за ипотека на купувач на жилище, молбата за убежище на мигрант или оценката на вероятността нарушителят да повтори престъпление.

"Ясно е, че ако изберем някои данни, които са Ако сме достатъчно приобщаващи, ще имаме някои избори, които не са приобщаващи“, каза Бенанти, чийто религиозен орден е основан в началото на 13 век от Свети Франциск от Асизи, който се отказва от земните богатства и насърчава благотворителните дейности.

Изследователите откриват, че AI моделите могат да бъдат обучени да бъдат измамни с „неефективни“ предпазни парапети

Microsoft за първи път се свърза с Бенанти преди няколко години за мислите му относно технологиите, каза монахът.

През 2023 г. Смит направи подкаст с Бенанти в Рим, описвайки монахът като донесъл „една от най-завладяващите комбинации в света“ по отношение на неговия опит в инженерството, етиката и технологиите на Дебат за ИИ.

Намиране на правилните приложения на ИИ

Бенанти, който не успя една година да получи инженерната си степен в Римския университет Сапиенца, когато изостави дипломата - а също и приятелката си - да се присъедини към францисканците на 20-те си години, описа как изкуственият интелект може да бъде „наистина мощен инструмент“ за намаляване на цената на медицината и овластяване на лекарите да помагат на повече хора.

Но той също така описа етичните последици от технология, която би могла да има същите способности като човека - или може би дори повече.

"Това е проблем не в използването на [AI], а в управлението", каза монахът. "И тук идва етиката – намирането на правилното ниво на употреба в социален контекст".

Бенанти отбеляза че голяма част от данните, които информират AI, се подават от работници с ниски заплати, много от които в развиващи се страни, вкопани в история на колониализъм и експлоатирана работна сила.

„Не искам това да се помни като сезон, в който извличаме когнитивни ресурси от глобалния Юг", каза той.

Ако някой изследва „най-добрите инструменти, които произвеждаме в AI“ на Запад, ще види, че AI е „обучен с нископлатени работници от англоговорящи бивши колонии“.

Как да управляваме AI е проблем, който страните по целия свят се опитват да разрешат. Европейският съюз стана пионер в края на миналата година, когато преговарящите осигуриха сделка, която проправя пътя за правен контрол върху AI технологията.

В Италия премиерът Джорджия Мелони, която се притеснява, че AI може да доведе до загуба на работни места, ще направи технологията фокус на тазгодишната среща на върха на Г-7, домакин на която е Италия.

Като част от тези усилия, Мелони в четвъртък се срещна с гостуващия основател на Microsoft Бил Гейтс в Рим, среща, на която присъства Бенанти.

От своя страна монахът каза пред AP, че регулирането на изкуствения интелект не трябва да означава ограничаване на неговото развитие.

p>„Това означава да ги поддържаме съвместими с тази крехка система, която е демокрацията, която днес изглежда е най-добрата система“, каза Бенанти.

Последвайте ни в