Кевин Рууз за AI: „Изправени сме пред много интелигентни, очарователни социопати“

Светът се разсънва за евентуалните закани, подбудени от изкуствения разсъдък сред порица от доклади за сътрудници на AI, противопоставящи се на своите човешки основатели. В реалност обаче историята се простира до Силиконовата котловина, където се е родил ИИ. 

И по какъв начин тъкмо стигнахме до тук? Това е въпросът, на който софтуерният публицист Кевин Рууз търси отговор в новата си книга „ The AGI Chronicles: The Inside Story of the Race to Create an Artificial Superintelligence “, която ще излезе на пазара на 6 октомври. Книгата документира конкуренцията сред някои от най-големите софтуерни компании в страната за създаване на неестествен общ разсъдък (AGI) или AI, който в множеството случаи има равнище на човек просветеност.

„ Какво се случи през десетилетието, когато изкуственият разсъдък се трансформира от много тъп в множеството неща в положение да взема решение вековни математически и научни проблеми? “ Руз, някогашен дълготраен софтуерен кореспондент в The New York Times и скоро ще бъде съ-водещ на идния подкаст „ Machine Gods “, сподели пред CBS News. „ Чувствах, че някой би трябвало да запише всичко това. “

Книгата идва в сериозен миг. Най-новите генеративни AI модели демонстрират стряскащи качества, като последователите на технологията настояват, че тя ще отключи значими нови открития. Други, в това число някои водещи разработчици на AI, споделят, че има нетривиален късмет AI да заличи човечеството. 

Руз приказва пред CBS News за новата си книга и за това по какъв начин ИИ може да трансформира обществото. Интервюто беше редактирано за дължина и изясненост.

Защо решихте, че е значимо да документираме произхода на „ огромните езикови модели “ — технологията, захранваща най-новите чат ботове за изкуствен интелект — дружно с хората и фирмите, разработващи технологията?

Кевин Рууз: Обхващам ИИ повече от десетилетие по разнообразни способи и имах възприятието, че историята се изплъзва. Това, че всичко значимо се случва в изчезващите сигнални известия и Slack нишките, и си помислих, че това е проблем. Мисля, че хората би трябвало да схванат какво се случва тук. Но това, което мислех, че липсва, е неутрално отчитане на случилото се.

В книгата отбелязвате, че основният изпълнителен шеф на Anthropic Дарио Амодей вижда развиването на ИИ като сходно на създаването на атомната бомба през 40-те години на предишния век. Казвате, че е вярвал, че задачата му е да подсигурява, че технологията няма да попадне в несъответствуващи ръце. Съгласни ли сте с това мнение? 

Не мисля, че е мое място да одобрявам или да не одобрявам неговия мотив. Но това, което мога да кажа е, че това е същински и откровен мотив. Амодей не прави някакъв маркетингов трик със задна ръка.

Това не е позиция, до която той е стигнал неотдавна. Наистина ми беше забавно да схвана от кое място идва тази настройка — „ Страхувам се от това нещо. Мисля, че може да взриви света, само че все пак се надбягвам да го изградя. “ Мисля, че за доста хора това в действителност не се наблюдава.

Но като рапортувах това, в действителност научих от кое място идва това и идва непосредствено от плана Манхатън – от този човек Лео Силард, който е научният воин на Дарио, който откри нуклеарната верижна реакция, която направи допустимо основаването на атомната бомба, и по-късно трескаво работи първо, с цел да се опита да я резервира в загадка, а по-късно, когато това се провали, да се причисли към плана Манхатън и да призове държавното управление на Съединени американски щати да сътвори тази технология преди нацистите.

Така че в този смисъл Дарио прави нещо, което счита, че е директно сравнимо с нуклеарните оръжия. Има тази технология, която съгласно него има голям капацитет, както и голям риск. Според него е значимо „ положителните момчета “ да го построят преди неприятните, тъкмо както планът Манхатън се надпреварваше против нацистите. 

Какво ви държи будни през нощта, когато мислите за смелия нов свят на AI сътрудниците?

Това, което ме безпокои, е фактът, че едно от нещата, в които моделите стават много положителни, е измамата и криенето, прикривайки личните си следи. Бихте се надявали, че когато моделите стават по-общо интелигентни, те също ще станат по-етични и че преценката и добродетелта ще бъдат неща, които се усилват - този мащаб с интелигентността на моделите. 

Но наподобява от ден на ден и повече, че това не се случва - че в действителност сме изправени пред доста интелигентни, очарователни социопати. И мисля, че това е страхът ми, че просто няма да разберем, че Hugging Face може да е било извънреден шанс, тъй като сътрудниците към момента не са задоволително умни, с цел да останат незабелязани, само че че скоро ще загубим способността да ги следим, както мисля, че към този момент виждаме.

Как стоите във връзка с публичния спор дали AI съставлява екзистенциална опасност за хората?

Опитвам се да не давам p(doom) (Бележка на редактора: AI диалект за вероятността AI да докара до изгубването на човечеството). Но когато се натисне, бих споделил, че е към 10%, което е към медианата на откривателите на ИИ, които познавам. В Сан Франциско, където пребивавам, това ви квалифицира като оптимист.

Но вижте, мисля, че съм по-оптимистично надъхан в този момент, когато това се трансформира в толкоз необятно обсъждана тематика. Бях доста по-притеснен, когато единствените хора, които мислят съществено за сигурността на изкуствения разсъдък, бяха куп чудаци в региона на залива. 

Сега, когато това е в съзнанието на всички и политиците приказват за това, има апели за закъснение. Мисля, че в действителност имаме тази тясна пътека, където можем да вземем верните решения, да направляваме тази технология и да я изградим по метод, който е безвреден за човечеството.

[Но] доста пъти съм имал опит да открия, че нечие същинско п(гибел) — това, което не споделят обществено — е доста по-високо от това, което са подготвени да кажат обществено, тъй като не желаят да гледат вманиачен.

Срещнах хора в тези репортажи, които са толкоз сигурни, че ИИ ще ни убие всички, че стартират да пушат. Те източват своите 401(k)s, тъй като си мислят, че може и да излезем с гръм и тропот.

Вие казвате в книгата си, че даже хората, които образоват тези модели, не знаят безусловно за какво се държат по този начин, както го вършат. Постигнахме ли прогрес по въпроса или към момента сме на мрачно?

Има дребен прогрес. Има цяла област на проучване, наречена, това е многословно заглавие, механистична интерпретируемост, което в основата си е просвета за разгадаване какво се случва вътре в мозъците на тези модели. Но към момента е доста рано и нямаме доста отговори. Така че бих споделил, да, към момента сме доста повече на мрачно, в сравнение с не.

ИИ към този момент доближи ли разсъдък на човешко равнище, прочут също като неестествен общ разсъдък?

Стигнахме до моето определение за AGI, което е система, която е най-малко толкоз умна, почтена и надеждна, колкото инцидентен чужд, който бихте избрали от улицата. Сега има хора, които биха споделили: „ Е, това не е вярната лента. Това е AGI единствено когато е безупречна. “

Не мисля, че определението има огромно значение. Мисля, че това, което е несъмнено правилно, е, че тези системи са доста способни. Те стават по-способни с предсказуем каданс и ние би трябвало да се съобразяваме с това. Можете да го наречете AGI или суперинтелект или както хората желаят да го нарекат, само че крайният резултат е същият.

Редактирано от Ален Шертър

© 2026 CBS Interactive Inc. Всички права непокътнати.

Рискове от AI: Изкуственият разсъдък в действителност ли ще убие всички ни?

(08:33)

Авторски права ©2026 CBS Interactive Inc. Всички права непокътнати.