Папата призовава за международен договор за регулиране на изкуствения интелект

Папа Франциск прикани за интернационален контракт, който да подсигурява, че изкуственият разсъдък се създава и употребява етично, като твърди, че рисковете от технологията, в която липсват човешки полезности като съчувствие, благосклонност, морал и амнистия са прекомерно огромни.

Франсис добави гласа си към възходящите апели за обвързващо, световно контролиране на ИИ в годишното си обръщение за Световния ден на мира, който Католическата черква чества всеки 1 януари. Ватиканът разгласява текста от известието в четвъртък.

За Франсис апелът е ненапълно персонален: по-рано тази година генерирано от AI изображение на него, облечен в първокласно бяло пухено яке, стана вирусно, показвайки какъв брой бързо реалистичните дълбоки подправени изображения могат публикувано онлайн.

Съобщението на папата беше оповестено единствено дни откакто договарящите от Европейския съюз осигуриха краткотрайно утвърждение на първите в света всеобхватни правила за изкуствен интелект, които се чака да служат като златен стандарт за държавните управления, обмислящи лично контролиране.

Изкуственият разсъдък притегли вниманието на света през последната година с помощта на спиращия дъха прогрес на авангардни системи като OpenAI ChatGPT, които заслепиха потребителите със способността да основават човешки текст, фотоси и песни.

Но технологията също породи страхове по отношение на рисковете, които бързо разрастващата се технология съставлява за работните места, поверителността и отбраната на авторските права и даже самият човешки живот.

Франциск призна обещанието, което AI предлага, и похвали софтуерния прогрес като демонстрация на творчеството на човешкия разсъдък, повтаряйки посланието, което Ватикана насочи на тазгодишното Общо заседание на Организация на обединените нации, където голям брой международни водачи повдигнаха обещанията и заплахите на технологията.

Но новото му обръщение за мир отиде по-далеч и акцентира сериозните, екзистенциални опасения, повдигнати от етиците и бранителите на човешките права по отношение на технологията, която дава обещание да трансформира всекидневието по способи които могат да нарушат всичко - от демократичните избори до изкуството.

Той настоя, че софтуерното развиване и внедряването на AI би трябвало да държи преди всичко загрижеността за гарантиране на главните човешки права, поощряване на мира и предотвратяване от дезинформация, дискриминация и деформиране.

Неговата най-голяма паника беше отдадена на потреблението на AI в бранша на оръжията, което постоянно беше фокус на папата йезуит, който назова даже производителите на обичайни оръжия „ търговци на гибел “.

Той означи, че отдалечените оръжейни системи към този момент са довели до „ разграничаване от голямата покруса на войната и понижено разбиране на опустошението породени от тези оръжейни системи и тежестта на отговорността за тяхното потребление ”.

„ Уникалният потенциал за морална преценка и взимане на етични решения е освен това от комплицирана сбирка от логаритми и този потенциал не може да бъде редуциран до програмиране на машина “, написа той.

На по-основно равнище той предизвести за дълбоките последствия върху човечеството от автоматизираните системи, които класират жителите или ги категоризират.

Той означи, че такива технологията може да дефинира надеждността на претендента за ипотека, правото на мигрант да получи политическо леговище или шанса за наново закононарушение от някой, който преди този момент е бил наказан за закононарушение.

„ Не би трябвало да се разрешава на логаритмите да дефинират по какъв начин ние разбираме правата на индивида, да оставим настрани главните човешки полезности на съчувствие, благосклонност и амнистия, или да премахнем опцията индивидът да се промени и да остави своето минало зад тила си “, написа той.

За Франциск, въпросът визира някои от неговите цели като папа да осъжда обществените несправедливости, да се застъпва за мигрантите и да служи на пандизчиите и тези в периферията на обществото.

Посланието на папата не се задълбочава в детайлности за възможен обвързващ контракт с изключение на да се каже, че би трябвало да се контракти на световно равнище, както за поощряване на най-хубавите практики, по този начин и за попречване на нездравословни. Не може да се има доверие на софтуерните компании, които сами ще се контролират, сподели той.