Папа Франциск призовава за глобален договор за регулиране на изкуствения интелект: „Рискуваме да попаднем в спиралата на технологична диктатура“

Папа Франциск в четвъртък прикани за интернационален контракт, който да подсигурява, че изкуственият разсъдък се създава и употребява етично, като твърди, че рисковете от технологията, лишена от човешки полезности като съчувствие, благосклонност, морал и амнистия, са прекомерно огромни.

Франсис добави гласа си към възходящите апели за обвързващо, световно контролиране на ИИ в годишното си обръщение за Световния ден на мира, който Католическата черква чества всеки 1 януари. Ватиканът разгласява текста на посланието в четвъртък.

За Франциск апелът е ненапълно персонален: по-рано тази година генерирано от AI изображение, на което той носи първокласно бяло пухено яке стана вирусно, показвайки какъв брой бързо реалистичните дълбоки подправени изображения могат да се разпространят онлайн.

Изкуственият разсъдък притегли вниманието на света през последната година с помощта на спиращия дъха прогрес на авангардни системи като ChatGPT на OpenAI, които са заслепили потребителите със способността да основават човешки текст, фотоси и песни. Но технологията също породи страхове по отношение на рисковете, които бързо разрастващата се технология основава за работните места, поверителността и отбраната на авторските права и даже за самия човешки живот.

Франсис призна обещанието, което AI предлага, и похвали софтуерния прогрес като демонстрация на творчеството на човешкия разсъдък, повтаряйки посланието, което Ватикана насочи на тазгодишното Общо заседание на Организация на обединените нации, където голям брой международни водачи повдигнаха обещанието и заплахите на технологията.

Но новото му обръщение за мир отиде по-далеч и акцентира сериозните, екзистенциални опасения, повдигнати от етици и бранители на човешките права по отношение на технологията, която дава обещание да трансформира всекидневието по способи, които могат да разрушат всичко от демократични избори до изкуство.

„ Изкуственият разсъдък може да съставлява най-големия залог на нашето бъдеще “, сподели кардинал Майкъл Черни от службата за развиване на Ватикана, който показа известието на конференция в четвъртък. „ Ако се окаже зле, човечеството е отговорно. “

Документът упорства, че софтуерното развиване и внедряването на AI би трябвало да резервира преди всичко загрижеността за гарантиране на главните човешки права, поощряване на мира и предотвратяване от дезинформация, дискриминация и деформиране.

Най-голямата паника на Франсис беше отдадена на потреблението на AI в бранша на оръжията, което постоянно е в центъра на вниманието на папата йезуит, който назова даже производителите на обичайни оръжия „ търговци на гибел “.

Той означи, че отдалечените оръжейни системи към този момент са довели до „ разграничаване от голямата покруса на войната и понижено разбиране на опустошението, породено от тези оръжейни системи и тежестта на отговорността за тяхното потребление. “ p>

„ Уникалният потенциал за морална преценка и взимане на етични решения е повече от комплицирана сбирка от логаритми и този потенциал не може да бъде редуциран до програмиране на машина “, написа той.

Той прикани за „ съответен, логичен и пореден “ човешки контрол върху смъртоносните самостоятелни оръжейни системи (или ЗАКОНИ), потвърждавайки, че светът няма потребност от нови технологии, които просто „ в последна сметка предизвикват безумието на войната “.

На на по-основно равнище, той предизвести за дълбоките последствия върху човечеството от автоматизираните системи, които класират жителите или ги категоризират. В допълнение към заканите за работните места по света, които могат да бъдат осъществявани от роботи, Франсис означи, че сходна технология може да дефинира надеждността на претендента за ипотека, правото на мигрант да получи политическо леговище или шанса да извърши наново закононарушение от някого преди този момент наказан за закононарушение.

„ Не би трябвало да се разрешава на логаритмите да дефинират по какъв начин разбираме правата на индивида, да оставят настрани главните човешки полезности на съчувствие, благосклонност и амнистия или да отстраняват опцията индивидът да се промени и да напусне своето минало откъм гърба “, написа той.

За Франциск въпросът визира някои от неговите цели като папа да осъжда обществените несправедливости, да се застъпва за мигрантите и да служи на пандизчиите и тези в периферията на обществото.

Посланието на папата не се задълбочи в детайлности за вероятен обвързващ контракт, като се изключи че сподели, че той би трябвало да бъде контрактуван на световно равнище, както за поощряване на най-хубавите практики, по този начин и за попречване на нездравословни. Не може да се има доверие на софтуерните компании сами по себе си, сподели той.

Той пренасочи причините, които е употребявал преди, с цел да осъди мултинационалните компании, които са опустошили националните запаси на Земята и обедняли коренното население, което живее от тях.

Свободата и мирното общуване са застрашени, „ когато човешките същества се поддадат на изкушението към егоизма, персоналния интерес, желанието за облага и жаждата за власт “, ​​пише той.

Барбара Капуто, професор в Центъра за изкуствен интелект на Политехническия университет в Торино, означи, че към този момент има доближаване по някои фундаментални етични въпроси и дефиниции както в регламента на Европейски Съюз, по този начин и в изпълнителната заповед, показана от президента на Съединени американски щати Джо Байдън през октомври.

„ Това не е малко нещо “, сподели тя на брифинга във Ватикана. „ Това значи, че всеки, който желае да създава изкуствен интелект, има обща регулаторна база. “