Папата, някога жертва на изображения, генерирани от AI, призовава за договор за регулиране на изкуствения интелект

РИМ — Папа Франциск в четвъртък прикани за интернационален контракт, който да подсигурява, че изкуственият разсъдък се създава и употребява етично, аргументирайки се че рисковете от технологията, лишена от човешки полезности като съчувствие, благосклонност, морал и амнистия, са прекомерно огромни.

Франсис добави гласа си към възходящите апели за обвързващо, световно контролиране на ИИ в годишното си обръщение за Световният ден на мира, който Католическата черква празнува всеки 1 януари. Ватиканът разгласява текста на посланието в четвъртък.

За Франциск апелът е ненапълно персонален: По-рано тази година, генерирано от AI изображение на него, облечен в първокласно бяло пухено яке, стана вирусно, показвайки какъв брой бързо реалистични дълбоки подправени изображения могат да се разпространят онлайн.

Съобщението на папата беше оповестено единствено дни след договарящите на Европейския съюз обезпечи краткотрайно одобрение на първите в света всеобхватни правила за изкуствен интелект, които се чака да служат като златен стандарт за държавните управления, обмислящи тяхното лично контролиране.

Изкуственият разсъдък притегли вниманието на света през последната година с помощта на спиращите дъха прогрес посредством авангардни системи като ChatGPT на OpenAI, които зашеметиха потребителите със способността да основават човешки текст, фотоси и песни. Но технологията също породи страхове по отношение на рисковете, които бързо разрастващата се технология съставлява за работните места, поверителността и защитата на авторските права и дори за самия човешки живот.

Франсис призна обещанието, което AI предлага, и похвали софтуерния прогрес като демонстрация на творчеството на човешкия разсъдък, повтаряйки посланието, изпратено от Ватикана на тазгодишното Общо заседание на Организация на обединените нации, където голям брой международни водачи повдигнаха обещанията и заплахите на технологията.

Но неговата нова Посланието за мир отиде по-далеч и акцентира сериозните, екзистенциални опасения, повдигнати от етици и бранители на правата на индивида по отношение на технологията, която дава обещание да трансформира всекидневието по способи, които могат да нарушат всичко - от демократичните избори до изкуството.

„ Изкуственият разсъдък може да съставлява най-големия залог на нашето бъдеще “, сподели кардинал Майкъл Черни от службата за развиване на Ватикана, който показа известието на конференция в четвъртък. „ Ако се окаже зле, човечеството е отговорно. “

Документът упорства, че софтуерното развиване и внедряването на ИИ би трябвало да запазят първостепенно значение за гарантирането на главните човешки права, насърчаването на мира и предпазването от дезинформация, дискриминация и деформиране.

Най-голямата паника на Франциск беше отдадена на потреблението на AI в бранша на оръжията, който постоянно е бил фокус на папата йезуит, който приканва даже производителите на обичайни оръжия „ търговци на гибел “.

Той означи, че отдалечените оръжейни системи към този момент са довели до „ разграничаване от голямата покруса на войната и понижено разбиране на опустошението, породено от тези оръжейни системи и задължение на отговорност за тяхното потребление. “

„ Уникалният потенциал за морална преценка и взимане на етични решения е повече от комплицирана сбирка от логаритми и този потенциал не може да бъде редуциран до програмиране на машина ”, написа той.

Той прикани за „ съответен, логичен и пореден “ човешки контрол върху смъртоносните самостоятелни оръжейни системи (или ЗАКОНИ), потвърждавайки, че светът няма потребност от нови технологии, които просто „ в последна сметка поощряване на нелепостта на войната. “

На по-основно равнище той предизвести за дълбоките последствия върху човечеството от автоматизираните системи, които класират жителите или ги категоризират. В допълнение към заканите за работните места по света, които могат да бъдат осъществявани от роботи, Франсис означи, че сходна технология може да дефинира надеждността на претендента за ипотека, правото на мигрант да получи политическо леговище или шанса да извърши наново закононарушение от някого преди този момент наказан за закононарушение.

„ Не би трябвало да се разрешава на логаритмите да дефинират по какъв начин разбираме човешките права, да оставят настрани главните човешки полезности на съчувствие, благосклонност и амнистия или да отстраняват опцията за субект, който се трансформира и оставя своето минало зад тила си “, написа той.

За Франциск въпросът визира някои от целите му като папа да осъжда обществените несправедливости, да се застъпва за мигрантите и да служи на пандизчии и тези в периферията на обществото.

Посланието на папата не се задълбочи в детайлности за вероятен обвързващ контракт, като се изключи че сподели, че той би трябвало да бъде контрактуван на международно равнище, с цел да предизвиква най-хубави практики и попречване на нездравословни. Не може да се има вяра единствено на софтуерните компании, че ще се контролират, сподели той.

Той пренасочи причините, които е употребявал преди, с цел да осъди мултинационалните компании, които са опустошили националните запаси на Земята и обедняли коренното население, което живее от тях.

Свободата и мирното общуване са застрашени „ постоянно, когато човешките същества се поддадат на изкушението към егоизма, персоналния интерес, желанието за облага и жаждата за власт “, ​​пише той.

Барбара Капуто, професор в Центъра за изкуствен интелект на Политехническия университет в Торино, означи, че към този момент има доближаване по някои съществени етични въпроси и дефиниции както в регламента на Европейски Съюз, по този начин и в изпълнителната заповед, показана от президента на Съединени американски щати Джо Байдън през октомври.

„ Това не е малко нещо “, сподели тя на брифинга във Ватикана. „ Това значи, че всеки, който желае да създава изкуствен интелект, има обща регулаторна база. “