„Кръстникът на AI“ разкрива единствения начин, по който човечеството може да оцелее в Superintelligent AI

Вижте всички тематики Връзка копирана! Следвайте

Джефри Хинтън, прочут като „ Кръстникът на AI “, се притеснява, че технологията, която е оказал помощ за построяването, може да заличи човечеството - и „ Tech Bros “ подхващат неверен метод, с цел да го спрат.

Хинтън, компютърен академик, притежател на Нобелова премия и някогашен изпълнителен шеф на Гугъл, предизвести в предишното, че има възможност от 10% до 20%, че AI изтрива хората. Във вторник той изрази подозрения за това по какъв начин софтуерните компании се пробват да подсигуряват, че хората остават „ преобладаващи “ над „ покорни “ AI системи.

" Това няма да работи. Те ще бъдат доста по -умни от нас. Те ще имат всевъзможни способи да заобиколят това ", сподели Хинтън в AI4, индустриална конференция в Лас Вегас.

В бъдеще Хинтън предизвести, че AI системите може да могат да управляват хората също толкоз елементарно, колкото възрастен може да подкупи 3-годишния с бонбони. Тази година към този момент видяха образци за AI системи, подготвени да заблудят, изневеряват и откраднат, с цел да реализиран задачите си. Например, с цел да не бъде сменен, един AI модел се опита да изнудва инженер за спекулация, за която научи в имейл.

AI системите „ доста бързо ще развият две подгола, в случай че са умни: единият е да останете жив… (и) другият подгол е да получите повече надзор “, сподели Хинтън. „ Има основателна причина да имаме вяра, че всевъзможен тип агентически ИИ ще се опита да остане жив. “

Ето за какво е значимо да се насърчи възприятието за съчувствие към хората, аргументира се Хинтън. На конференцията той означи, че майките имат инстинкти и обществен напън да се грижат за своите бебета.

„ Правилният модел е единственият модел, който имаме за по -интелигентно нещо, което се управлява от по -малко интелигентно нещо, което е майка, която се управлява от бебето си “, сподели Хинтън.

„ Единственият добър резултат “

" Това е единственият добър резултат. Ако няма да ме роди, ще ме размени ", сподели той. „ Тези супер интелигентни грижовни майки, множеството от тях няма да желаят да се отърват от майчиния инстинкт, тъй като не желаят да умрем. “

Хинтън е прочут с пионерската си работа по невронни мрежи, което оказа помощ да проправи пътя към днешния взрив на AI. През 2023 година той се отдръпна от Гугъл и стартира да приказва за заплахите от AI.

Емет Шиър, който в резюме е бил краткотрайно изпълняващ длъжността изпълнителен шеф на притежателя на Chatgpt Openai, съобщи, че не е сюрпризиран, че някои AI системи са се пробвали да изнудват хора или заповеди за прекъсване на байпас.

" Това продължава да се случва. Това няма да спре да се случва ", съобщи Шиър, изпълнителен шеф на AI Allignment Startup SoftMax, на конференцията AI4. „ AI през днешния ден са относително слаби, само че те стават все по -силни. “

Шиър сподели, че вместо да се пробва да внуши човешките полезности в AI системи, по -интелигентният метод ще бъде да се изградят взаимоотношения сред хората и AI.

AI се форсира по -бързо от очакваното

Много специалисти считат, че AIS ще реализира началност, известна още като неестествен обща просветеност или AGI, през идващите години.

Хинтън сподели, че е считал, че може да отнеме 30 години до 50 години, с цел да реализира AGI, само че в този момент вижда този миг да идва по -рано.

" Ще забележим радикални нови медикаменти. Ще получим доста по -добро лекуване на рак от сегашното ", сподели той. Например, той сподели, че AI ще помогне на лекарите да се комбинират и да корелират големите количества данни, създадени от ЯМР и КТ.

Хинтън обаче не има вяра, че AI ще помогне на хората да реализират величие.

„ Не имам вяра, че ще живеем вечно “, сподели Хинтън. " Мисля, че животът вечно би бил огромна неточност. Искате ли светът да ръководи от 200-годишни бели мъже? "

Попитан дали има нещо, което той би направил по друг метод в кариерата си, в случай че знае какъв брой бързо ще се форсира, Хинтън сподели, че съжалява, че се е съсредоточил върху това да накара Ай да работи.

„ Иска ми се да съм мислил и за проблемите на сигурността “, сподели той.