Папата, някога жертва на изображения, генерирани от AI, призовава за договор за регулиране на изкуствения интелект

РИМ (АП) — Папа Франциск в четвъртък прикани за интернационален контракт, който да подсигурява, че изкуственият разсъдък се създава и употребява етично, като твърди, че рисковете от технологията, лишена от човешки полезности като съчувствие, благосклонност, морал и амнистия, са прекомерно огромни.

Франсис добави гласа си към възходящите апели за обвързващо, световно контролиране на ИИ в годишното си обръщение за Световния ден на мира, който Католическата черква чества всеки 1 януари. Ватиканът разгласява текста на посланието в четвъртък.

За Франциск апелът е ненапълно персонален: по-рано тази година генерирано от AI изображение, на което той носи първокласно бяло пухено яке стана вирусно, показвайки какъв брой бързо реалистичните дълбоки подправени изображения могат да се разпространят онлайн.

Съобщението на папата беше оповестено единствено дни откакто договарящите от Европейския съюз осигуриха краткотрайно утвърждение на първите в света всеобхватни правила за изкуствен интелект, които се чака да служат като златен стандарт за държавните управления, обмислящи личните си регулации.

Изкуственият разсъдък притегли вниманието на света през миналата година с помощта на спиращия дъха прогрес на авангардни системи като ChatGPT на OpenAI, които зашеметиха потребителите със способността да основават човешки текст, фотоси и песни. Но технологията също породи страхове по отношение на рисковете, които бързо разрастващата се технология основава за работните места, поверителността и отбраната на авторските права и даже за самия човешки живот.

Франсис призна обещанието, което ИИ предлага, и похвали софтуерния прогрес като демонстрация на творчеството на човешкия разсъдък, повтаряйки посланието, което Ватикан насочи на тазгодишното Общо заседание на Организация на обединените нации, където голям брой международни водачи повдигнаха обещанията и заплахите от технологията.

Но новото му обръщение за мир отиде по-далеч и акцентира сериозните, екзистенциални опасения, повдигнати от етици и бранители на човешките права по отношение на технологията, която дава обещание да трансформира всекидневието по способи, които могат да нарушат всичко - от демократичните избори до изкуство.

Той настоя, че софтуерното развиване и внедряването на AI би трябвало да държи преди всичко загрижеността за гарантиране на главните човешки права, поощряване на мира и предотвратяване от дезинформация, дискриминация и деформиране.

Неговата най-голяма паника беше отдадена на потреблението на AI в бранша на оръжията, което постоянно беше фокус на папата йезуит, който назова даже производителите на обичайни оръжия „ търговци на гибел “.

Той означи, че отдалечените оръжейни системи към този момент са довели до „ разграничаване от голямата покруса на войната и понижено разбиране на опустошението, породено от тези оръжейни системи и бремето на отговорността за тяхното потребление “. p>

„ Уникалният потенциал за морална преценка и взимане на етични решения е повече от комплицирана сбирка от логаритми и този потенциал не може да бъде редуциран до програмиране на машина “, написа той.

Той прикани за „ съответен, логичен и пореден “ човешки контрол върху смъртоносните самостоятелни оръжейни системи (или ЗАКОНИ), потвърждавайки, че светът няма потребност от нови технологии, които просто „ в последна сметка предизвикват безумието на войната “.

На на по-основно равнище, той предизвести за дълбоките последствия върху човечеството от автоматизираните системи, които класират жителите или ги категоризират. Той означи, че сходна технология може да дефинира надеждността на претендента за ипотека, правото на мигрант да получи политическо леговище или шанса за наново закононарушение от някой, който преди този момент е наказан за закононарушение.

„ Не би трябвало да се разрешава на логаритмите да дефинират по какъв начин разбираме правата на индивида, да оставят настрани главните човешки полезности като съчувствие, благосклонност и амнистия или да отстраняват опцията индивидът да се промени и да изостави предишното си “, той написа.

За Франциск въпросът визира някои от целите му като папа да осъжда обществените несправедливости, да се застъпва за мигрантите и да служи на пандизчиите и тези в периферията на обществото.

The Посланието на папата не се задълбочи в детайлности за вероятен обвързващ контракт, като се изключи че сподели, че той би трябвало да бъде контрактуван на световно равнище, както за поощряване на най-хубавите практики, по този начин и за попречване на нездравословни. Не може да се има вяра единствено на софтуерните компании, че ще се контролират, сподели той.

Той пренасочи причините, които е употребявал преди, с цел да осъди мултинационалните компании, които са опустошили националните запаси на Земята и обедняли коренното население, което живее от тях.

Свободата и мирното общуване са застрашени „ постоянно, когато човешките същества се поддадат на изкушението към егоизма, персоналния интерес, желанието за облага и жаждата за власт “, ​​пише той.

___

Келвин Чан способства от Лондон.