ИИ може да представлява заплаха от „ниво на изчезване“ за хората и САЩ трябва да се намесят, предупреждава докладът, поръчан от Държавния департамент

Нов отчет, поръчан от Държавния департамент на Съединени американски щати, рисува тревожна картина на „ пагубните “ опасности за националната сигурност, подбудени от бързо развиващия се изкуствен интелект, предупреждавайки, че времето изтича за федералното държавно управление да предотврати бедствието.

Констатациите се основават на изявленията с повече от 200 души в продължение на повече от година – в това число висши ръководители от водещи компании за изкуствен интелект, откриватели по киберсигурност, специалисти по оръжия за всеобщо заличаване и чиновници по националната сигурност в държавното управление.

Докладът, оповестен тази седмица от Gladstone AI, изрично декларира, че най-напредналите системи за изкуствен интелект биха могли в най-лошия случай „ да съставляват опасност на равнище на изгубване за човешкия тип “.

Служител на Държавния департамент на Съединени американски щати удостовери пред CNN, че организацията е поръчала отчета, защото непрестанно прави оценка по какъв начин ИИ е в сходство с задачата си да пази ползите на Съединени американски щати вкъщи и в чужбина. Служителят обаче акцентира, че отчетът не отразява възгледите на държавното управление на Съединени американски щати.

Предупреждението в отчета е още едно увещание, че макар че капацитетът на ИИ продължава да превзема вложителите и обществеността, съществуват и действителни рискове.

„ ИИ към този момент е стопански трансформираща технология. Това може да ни разреши да лекуваме заболявания, да вършим научни открития и да преодоляваме провокации, които в миналото сме считали за непреодолими “, сподели Джеръми Харис, основен изпълнителен шеф и съосновател на Gladstone AI, пред CNN във вторник.

„ Но това също може да докара до съществени опасности, в това число пагубни опасности, които би трябвало да сме наясно “, сподели Харис. „ И от ден на ден доказателства – в това число емпирични проучвания и разбори, оповестени в най-хубавите конференции за AI в света – допускат, че над избран предел на качества, AI евентуално може да стане неконтролируем. “

Говорителят на Белия дом Робин Патерсън сподели, че изпълнителната заповед на президента Джо Байдън по отношение на ИИ е „ най-значимото деяние, което всяко държавно управление в света е подхванало, с цел да се възползва от обещанието и да ръководи рисковете от изкуствения разсъдък “.

„ Президентът и вицепрезидентът ще продължат да работят с нашите интернационалните сътрудници и ще упорстват Конгреса да одобри двупартийно законодателство за ръководство на рисковете, свързани с тези нововъзникващи технологии “, сподели Патерсън.

„ Ясна и незабавна потребност “ от намеса

Изследователите предизвестяват за две съществени рискове, свързани с ИИ.

Първо, Гладстоун AI сподели, че най-напредналите AI системи могат да бъдат въоръжени, с цел да нанесат евентуално необратими вреди. Второ, в отчета се споделя, че има частни опасения в лабораториите за изкуствен интелект, че в даден миг могат да „ изгубят надзор “ върху самите системи, които създават, с „ евентуално опустошителни последствия за световната сигурност “.

„ Възходът на AI и AGI [изкуствен общ интелект] има капацитета да дестабилизира световната сигурност по способи, напомнящи въвеждането на нуклеарни оръжия “, се споделя в отчета, добавяйки, че съществува риск от AI „ конкуренция във въоръжаването “, спор и „ Инциденти с съдбовен излаз от мащаба на ОМУ.

Докладът на Gladstone AI приканва за трагични нови стъпки, ориентирани към справяне с тази опасност, в това число пускане на нова организация за изкуствен интелект, налагане на „ незабавни “ регулаторни защитни ограничения и ограничавания върху това какъв брой компютърна мощ може да се употребява за образование на модели на изкуствен интелект.

„ Има ясна и незабавна нужда държавното управление на Съединени американски щати да се намеси “, пишат създателите в отчета.

Съображения за безопасност

Харис, изпълнителен шеф на Gladstone AI, сподели, че „ невижданото равнище на достъп “, което неговият екип е имал до длъжностни лица в обществения и частния бранш, е довело до стряскащите изводи. Gladstone AI сподели, че е разговарял с механически и управителни екипи от притежателя на ChatGPT OpenAI, Гугъл DeepMind, родителя на Фейсбук Meta и Anthropic.

„ По пътя научихме някои отрезвяващи неща “, сподели Харис във видео, оповестено на уеб страницата на Gladstone AI, обявявайки отчета. „ Зад кулисите обстановката с сигурността и сигурността в напредналия AI наподобява много несъответстваща по отношение на рисковете за националната сигурност, които AI може да вкара много скоро. “

В отчета на Gladstone AI се споделя, че конкурентният напън тласка фирмите да ускорят развиването на AI „ за сметка на сигурността и сигурността “, повишавайки вероятността най-напредналите AI системи да бъдат „ откраднати “ и „ въоръжени “ против Съединените щати.

Заключенията допълват възходящия лист от предизвестия за екзистенциалните опасности, подбудени от ИИ – в това число даже от някои от най-влиятелните фигури в промишлеността.

Преди съвсем година Джефри Хинтън, прочут като „ кръстникът на изкуствения разсъдък “, напусна работата си в Гугъл и разгласи технологията, в чието развиване е взел участие. Хинтън сподели, че има 10% късмет изкуственият разсъдък да докара до изгубване на хората през идващите три десетилетия.

Хинтън и десетки други водачи в AI промишлеността, учени и други подписаха изказване предишния юни, в което се споделя, че „ намаляването на риска от изгубване от AI би трябвало да бъде световен приоритет “.

Бизнес водачите са все по-загрижени за тези рискове – даже когато наливат милиарди долари в вложения в AI. Миналата година 42% от изпълнителните шефове, интервюирани на срещата на върха на основните изпълнителни шефове в Йейл предходната година, споделиха, че AI има капацитета да унищожи човечеството след пет до 10 години.

Човешки качества за учене

В своя отчет Gladstone AI означи някои от видните персони, които предизвестиха за екзистенциалните опасности, подбудени от AI, в това число Илон Мъск, ръководителят на Федералната комерсиална комисия Лина Хан и някогашен върховен изпълнителен шеф на OpenAI.

Според Gladstone AI някои чиновници в компании за изкуствен интелект споделят сходни опасения уединено.

„ Един човек в добре известна AI лаборатория изрази мнение, че в случай че съответен AI модел от последващо потомство в миналото бъде пуснат с отворен достъп, това би било „ извънредно неприятно “, се споделя в отчета, „ тъй като капацитетът на модела е безапелационен качествата биха могли да „ счупят демокрацията “, в случай че в миналото бъдат употребявани в области като интервенция в избори или манипулиране на гласоподаватели. “

Гладстоун сподели, че е помолил специалистите по изкуствен интелект в граничните лаборатории да споделят частно персоналните си оценки за шанса случай с изкуствен интелект да докара до „ световни и необратими резултати “ през 2024 година Оценките варират сред 4% и даже 20%, съгласно отчет, който не отбелязва, че оценките са неофициални и евентуално са обект на обилни пристрастия.

Източник: cnn.com