Папата, някога жертва на изображения, генерирани от AI, призовава за договор за регулиране на изкуствения интелект
За Франциск призивът е донякъде личен: по-рано тази година, генерирано от AI изображение на него, облечен в луксозно бяло пухено яке стана вирусен, показвайки колко бързо реалистичните дълбоки фалшиви изображения могат да се разпространят онлайн.
Съобщението на папата беше публикувано само няколко дни след като преговарящите от Европейския съюз осигуриха временно одобрение на първите в света всеобхватни правила за ИИ, които се очаква да служат като златен стандарт за правителствата, обмислящи собствените си регулации.
Изкуственият интелект привлече вниманието на света през изминалата година благодарение на спиращия дъха напредък на авангардни системи като ChatGPT на OpenAI, които зашеметиха потребителите със способността да създават човешки текст, снимки и песни. Но технологията също породи страхове относно рисковете, които бързо развиващата се технология създава за работните места, поверителността и защитата на авторските права и дори за самия човешки живот.
Франсис призна обещанието, което AI предлага, и похвали технологичния напредък като проява на креативността на човешкия интелект, повтаряйки посланието, което Ватикана отправи на тазгодишното Общо събрание на ООН, където множество световни лидери повдигнаха обещанието и опасностите на технологията.
Но новото му послание за мир отиде по-далеч и подчерта сериозните, екзистенциални опасения, повдигнати от етици и защитници на човешките права относно технологията, която обещава да трансформира ежедневието по начини, които могат да разрушат всичко от демократични избори до изкуство.
Той настоя, че технологичното развитие и внедряването на AI трябва да държи на първо място загрижеността за гарантиране на основните човешки права, насърчаване на мира и предпазване от дезинформация, дискриминация и изкривяване.
Най-голямата му тревога беше посветена към използването на AI в сектора на оръжията, което често е в центъра на вниманието на папата йезуит, който нарече дори традиционните производители на оръжия „търговци на смърт“.
Той отбеляза, че дистанционните оръжейни системи вече са довели до „дистанциране от огромната трагедия на войната и намалено възприемане на опустошението, причинено от тези оръжейни системи и тежестта на отговорността за тяхното използване.“
„Уникалният капацитет за морална преценка и етично вземане на решения е нещо повече от сложна колекция от алгоритми и този капацитет не може да бъде сведен до програмиране на машина“, пише той.
Той призова за „адекватен, смислен и последователен“ човешки надзор върху смъртоносните автономни оръжейни системи (или ЗАКОНИ), твърдейки, че светът няма нужда от нови технологии, които просто „в крайна сметка насърчават безумието на войната“.
На по-основно ниво той предупреди за дълбоките последици върху човечеството от автоматизираните системи, които класирайте гражданите или ги категоризирайте. Той отбеляза, че подобна технология може да определи надеждността на кандидата за ипотека, правото на мигрант да получи политическо убежище или шанса за повторно престъпление от някой, който преди това е осъден за престъпление.
„Не трябва да се позволява на алгоритмите да определят как разбираме човешките права, да оставят настрана основните човешки ценности на състрадание, милост и прошка или да елиминират възможността индивидът да се промени и да напусне своето минало отзад“, пише той.
За Франциск въпросът засяга някои от приоритетите му като папа да осъжда социалните несправедливости, да се застъпва за мигрантите и да служи на затворниците и онези, които са в периферията на обществото.
Посланието на папата не се задълбочи в подробности за възможен обвързващ договор, освен че каза, че той трябва да бъде договорен на глобално ниво, както за насърчаване на най-добрите практики, така и за предотвратяване на вредни. Не може да се вярва само на технологичните компании, че ще се регулират, каза той.
Той пренасочи аргументите, които е използвал преди, за да осъди мултинационалните компании, които са опустошили националните ресурси на Земята и обедняли коренното население, което живее от тях.
Свободата и мирното съжителство са застрашени, „когато човешките същества се поддадат на изкушението към егоизма, личния интерес, желанието за печалба и жаждата за власт“, пише той.
___
Келвин Чан допринесе от Лондон.
