„Човечеството трябва да се събуди“ за опасностите от AI, казва шефът на Anthropic

Човечеството „ би трябвало да се разсъни “ за евентуално пагубните опасности, подбудени от мощни AI системи през идните години, съгласно шефа на Anthropic Дарио Амодей, чиято компания е измежду тези, които уголемяват границите на технологията.

С близо 20 000 думи есе, оповестено в понеделник, Амодей очерта рисковете, които биха могли да се появят, в случай че технологията се развива безотговорно – вариращи от огромни загуби на работни места до биотероризъм.

„ Човечеството е на път да получи съвсем невъобразима власт и е надълбоко неразбираемо дали нашите обществени, политически и софтуерни системи имат зрелостта да я владеят “, написа Амодей.

The есе означи внезапно предизвестие от един от най-мощните бизнесмени в промишлеността на изкуствения разсъдък, че актуалните защитни ограничения към изкуствения разсъдък са несъответстващи.

Амодей обрисува рисковете, които биха могли да зародят с появяването на това, което той назовава „ мощен изкуствен интелект “ – системи, които биха били „ доста по-способни от всеки притежател на Нобелова премия, общественик или технолог “ – което съгласно него евентуално ще се случи през идващите „ няколко години ".

Сред тези опасности е опцията хората да разработят биологични оръжия, способни да убият милиони или " в най-лошия случай даже да унищожат целия живот на земята ".

" Разстроен отшелник, който може да извърши пукотевица в учебно заведение, само че евентуално не може да сътвори нуклеарно оръжие или да пусне зараза вирусолог “, написа Амодей.

Той също по този начин покачва капацитета на ИИ да „ престъпи и да надвие човечеството “ или да даде власт на авторитаристи и други неприятни артисти, което води до „ световна тоталитарна тирания “.

Amodei, чиято компания Anthropic е основният противник на основателя на ChatGPT OpenAI, се сблъска с Дейвид Сакс, AI на президента Доналд Тръмп и крипто „ цар “ по отношение на посоката на регулацията на Съединени американски щати.

Той също по този начин оприличи проектите на администрацията да продава усъвършенствани AI чипове на Китай с продажбата на нуклеарни оръжия на Северна Корея.

Тръмп подписа изпълнителна заповед предишния месец, с цел да попречва напъните на държавно равнище за контролиране на фирмите, занимаващи се с изкуствен интелект, и предходната година разгласява проект за деяние за изкуствен интелект, който излага проекти за ускорение на нововъведенията в Съединени американски щати.

В есето Амодей предизвестява за всеобщи загуби на работни места и „ централизация на икономическа мощност “ и благосъстояние в Силициевата котловина вследствие на AI.

„ Това е клопката: ИИ е толкоз мощен, такава блестяща премия, че е доста мъчно за човешката цивилизация въобще да му наложи някакви ограничавания “, добави той.

В завоалирана отпратка към полемиката към Grok AI на Илон Мъск, Amodei написа, че „ някои AI компании са посочили притеснителна немарливост към сексуализирането на децата в днешните модели, което ме кара да се колебая, че ще покажат или склонността, или способността да се оправят с рисковете за самостоятелност в бъдещите модели “.

Загрижености за сигурността на AI, като биологични оръжия, самостоятелни оръжия и злонамерени държавни артисти заемат видно място в обществения дискурс през 2023 година, частично водени от предизвестия от водачи като Амодей.

През същата година държавното управление на Обединеното кралство провежда среща на върха за сигурността на изкуствения разсъдък в Блечли Парк, където страни и лаборатории се споразумяха да работят дружно за противопоставяне на сходни опасности.

Но политическите решения по отношение на ИИ от ден на ден се управляват от желанието да се възползват от опциите, предоставени от новата технология, вместо да смекчат рисковете, съгласно Амодей.

„ Това съмнение е тъпо, защото самата технология не се интересува от това, което е съвременно, и сме доста по-близо до действителната заплаха през 2026 година, в сравнение с бяхме през 2023 година “, написа той.

Амодей беше ранен чиновник в OpenAI, само че напусна да съосновава Anthropic през 2020 година, откакто се сблъска със Сам Алтман по отношение на посоката на OpenAI и парапетите на AI.

Anthropic води договаряния с групи, в това число Microsoft и Nvidia, и вложители, в това число сингапурския държавен капиталов фонд GIC, Coatue и Sequoia Capital за кръг от финансиране от $25 милиарда или повече, оценявайки компанията на $350 милиарда.