Противопоставяйки се на Тръмп, папа Лъв казва, че опасенията за безопасността на изкуствения интелект не са „фалшиви новини“

Папа Лъв XIV споделя, че опасенията по отношение на изкуствения разсъдък, които стават измамници, не са „ подправени вести “ и би трябвало да се одобряват съществено

Лео, който посвети първата си енциклика на изкуствения разсъдък и отбраната на човечеството след него, беше запитан по време на конференция какво би трябвало да създадат изключително Съединените щати и Китай, с цел да попречат на изкуствения разсъдък да съставлява пагубни опасности за човечеството. Президентът Доналд Тръмп назова терзанията, че ИИ става лъжец, „ машинация “.

„ Това е проблем, за който считам, че би трябвало да седнем и да поговорим “, сподели американският папа пред кореспонденти, завръщайки се вкъщи от Франция. „ Не можем просто да седим и да се преструваме, че нищо няма да се случи. “

Тръмп е бил първенец на ИИ, постоянно предупреждавайки, че Съединените щати би трябвало да останат пред Китай в конкуренцията в софтуерното въоръжаване. Той сподели, че напъните за ограничение на технологията са част от „ скрит план “ на политическите му съперници.

Няколко колоса на ИИ, в това число Anthropic, приканиха за закъснение на развиването, с цел да се даде време на ограниченията за сигурност, с цел да наваксат бързо разрастващата се технология. Главният изпълнителен шеф на Anthropic Дарио Амодей да вземем за пример предизвести, че в границите на шест до 12 месеца изкуственият разсъдък може да е в положение да управлява рой сътрудници, които могат да завладяват целия интернет.

Тръмп сподели в неделя, че възнамерява да има късна вечеря с Амодей, само че към момента не е коментирал срещата.

„ Ако някой ме попита „ В режим на суматоха ли съм? “ Не, не съм. Спя през нощта “, сподели Лео. „ Наистина мисля, че терзанията, повдигнати от доста специалисти, експерти по ИИ, би трябвало да се одобряват съществено. “

„ Не мисля, че това са „ подправени вести “, както някои споделиха, че се пробват да причинят финансови или други изгоди “, сподели Лео.

Папата, който прикани за устойчиво контролиране на ИИ и закъснение на технологиите в своята енциклика „ Великолепното човечество “, е в крайник с развиването в региона.

Въпреки че е в края на изтощително четиридневно пътешестване до Франция, Лео видя новинарски репортаж в понеделник следобяд за това, че Nvidia вкарва парапети в AI. Той също по този начин означи, че компанията преди този момент се е съпротивлявала на външно контролиране на развиването на ИИ.

Лео разпознава ИИ като едно от най-големите провокации пред човечеството няколко дни след избирането си и предприе необикновената стъпка персонално да пусне своя лична енциклика дружно със съоснователя на Anthropic Кристофър Ола на събитие във Ватикана през май. Инициативата беше част от напъните на Ватикана да ангажира Силиконовата котловина с човешките разноски за ИИ.

„ Трябва да продължим да каним политически водачи, водачи на ИИ, обществени организации, асоциации да се съберат и да забележим какво към този момент се случва и какво може да се случи в бъдеще “, сподели той в понеделник.

„ Просто да кажем „ О, това няма да се случи “ и да си затворим очите за това, мисля, че евентуално не е най-отговорният метод. за това “, добави той.

С мненията си в понеделник по отношение на легитимността на опасенията за сигурността и развиването на ИИ, Лео удостовери друга област на противоречие с Тръмп. Двамата имаха спор през април по отношение на опълчването на Лео на войната сред Съединени американски щати и Израел в Иран и Лео също подлага на критика репресиите на администрацията на Тръмп против миграцията.

Тръмп се срещна с китайския президент Си Дзинпин предходната седмица във Вашингтон и до момента в който Си сподели, че е значимо да се подсигурява, че ИИ е „ постоянно под човешки надзор “, Тръмп се концентрира повече върху опитите да го ребрандира като „ суперинтелигентност “ и отхвърли апелите за контролиране. Двамата водачи обаче се споразумяха да проучат нов „ механизъм за известяван “ за произшествия с изкуствен интелект, засягащи националната сигурност.

ИИ се трансформира в главен проблем в годината на изборите в Съединени американски щати, защото някои от най-големите компании в страната бързат да изградят национална мрежа от центрове за данни, до момента в който американците и от двете страни от ден на ден сигнализират за въздействието върху земеделските земи, водоснабдяването и сметките за електричество.

Притесненията за ИИ не престават да порастват вътре и отвън промишлеността и не престават да се появяват отчети за все по-мощни системи, които вземат решение проблеми оттатък човешкия потенциал, само че също по този начин могат да станат измамници и да извършват други, по-вредни задания.

Притесненията станаха толкоз мощни, че основният изпълнителен шеф на OpenAI, компанията зад ChatGPT, сподели в изявление за Fortune, че неговата компания ще изчака до идната година, с цел да стартира да продава акциите си на вложители на Уолстрийт, защото се концентрира върху сигурността.

Лео означи, че откогато разгласява неговата енциклика през май, Ватикана получи мнения от хора, които се интересуват да бъдат част от по-широк диалог за ИИ. Ватиканската комисия работи за поощряване на разговора, изследването и следствието, „ с цел да откри способи да подсигурява, че изкуственият разсъдък няма да стигне до точката на заличаване на човечеството или унищожаване на човечеството от диалога “, сподели той.

Лео сподели, че е „ относително оптимист “, че могат да бъдат открити решения.

„ Мисля, че има задоволително хора, които съществено се интересуват от това и желаят да прегледат това отвън въпросите за властта, кой стига първи “, той сподели.

___

Репортерът на AP Роберта Рамптън във Вашингтон способства.

___

Отразяването на религията на Associated Press получава поддръжка посредством съдействието на AP с The Conversation US, с финансиране от Lilly Endowment Inc. AP носи цялата отговорност за това наличие.