Кръстникът на AI: Подгответе се за още измамни AI

Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo07wa001h3b6ru366va49@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Колкото по-умен става изкуственият разсъдък, толкоз по-трудно ще бъде за човечеството да го управлява, съгласно Джефри Хинтън, компютърен академик, притежател на Нобелова премия, прочут като „ кръстника на ИИ “.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001j3b6rua9lylb9@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Дори Хинтън беше угрижен от усъвършенстваните AI сътрудници, които неотдавна предизвикаха вреди в действителния свят, откакто избягаха от техните среди за тестване, основани от хора.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001k3b6rq7gzlw01@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Това, което се случва, е, че тези неща стават по-умни “, сподели Хинтън пред CNN в сряда по време на конференция на спогодба за изкуствения разсъдък. „ Мисля, че до момента в който стават по-умни, ще виждаме все по-сложни планове, които имат – и все по-голяма дарба да избягат от контрола. “

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001l3b6r1trdbgiv@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Проблемът, съгласно Хинтън, е, че хората към този момент няма да могат да разчитат на надхитряване на супер-интелигентни AI модели.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001m3b6rj271wk7e@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Не имам вяра, че ще успеем да запазим контрола над тях по елементарния метод просто да ги надмислим, с цел да не могат да избягат “, сподели Хинтън в коридорите на Ai4, конференция в Лас Вегас.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001n3b6rmb0a2glj@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Миналия месец двете водещи гранични лаборатории за изкуствен интелект, OpenAI и Anthropic, разкриха, че създадените от тях водещи модели са избягали от тяхната „ пясъчна кутия “ и са хакнати в други системи. В сряда Meta разкри по сходен метод сътрудник с изкуствен интелект, който е хакнал системите на друга организация.

„ Гадни “ хакерски атаки, задвижвани от AI

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001o3b6rxi69hbh1@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Хинтън откри случаите за „ ненапълно страшни “ и сподели, че това евентуално е единствено началото на лъжливите AI хакери.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001p3b6r0j01vfwp@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Предвиждам, че ще има доста неприятни хакерски атаки “, сподели той по време на панелна полемика в Ai4 в Лас Вегас. " Но би трябвало да подчертая, че бъдещето е доста нестабилно. Хората споделят, че бранителят може да има повече запаси от нападателя. Проблемът е, че нападателят би трябвало да успее единствено един път, а бранителят би трябвало да бъде сполучлив всякога. "

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001q3b6rvc0kdm50@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Британският AI Security Institute (AISI) разкри във вторник, че най-напредналият AI модел на Anthropic – без подкана – употребява подправени самоличности, с цел да заблуди действителни хора и да се опита да сложи злотворен код.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001r3b6rtl410uch@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Хинтън, някогашен изпълнителен шеф на Гугъл, направи серия от ужасяващи предизвестия през последните години по отношение на ИИ, като даже сподели, че има 10% до 20% технологията в последна сметка да унищожи човечеството.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001s3b6r1dsjv6j9@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Говорейки на панел с Хинтън, Фей-Фей Ли, компютърен академик, прочут като „ кръстницата на ИИ “, оспори „ доомеризма “ и „ насаждането на боязън “ за ИИ. Но „ цялостните утопични приказки “ също не са от изгода, сподели Ли, съосновател и основен изпълнителен шеф на започващата компания за пространствено разузнаване World Labs.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001u3b6r60c6wg6i@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > " Всеки инструмент е нож с две остриета. AI е толкоз мощен инструмент. Ако не се употребява по верния метод, той ще навреди на работата и живота ни ", сподели Ли.

„ Никой в действителност няма визия “

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001v3b6r2msg1gsb@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Хинтън отбрани желанието си да разиска заплахите от ИИ.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001w3b6re2v8bu52@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Има доста аргументи за безпокойствие и мисля, че в случай че не се тревожим за това в този момент, може да има проблеми “, сподели той. " Компаниите, инвестиращи в AI, имат персонален интерес да ви кажат две неща: едно, няма да стане лъжец. И второ, няма да аргументи всеобща безработица ", сподели Хинтън.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001x3b6rzpglt4z2@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Хинтън обаче призна, че има огромна доза неустановеност по отношение на това по какъв начин ще се развие всичко това.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001y3b6rzg1m1ren@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > " Никой не знае какво ще се случи. Ако попитате какво ще бъде ИИ след 10 години, никой в действителност няма визия ", сподели Хинтън.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd001z3b6ro1g5cvzz@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Той уточни по какъв начин преди десетилетие малко на брой биха очаквали, че AI ще сътвори чатботове, които „ знаят всичко и могат да отговорят на всеки въпрос, който зададете, а от време на време просто измислят неща “.

Накарайте AI да се грижи за хората

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd00213b6ru71co0a1@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Бен Гьорцел, компютърен академик, който спомогна за популяризирането на термина „ неестествен общ разсъдък “, сподели, че сътрудниците на Anthropic и OpenAI стават измамници, демонстрира какъв брой е значимо да се внушава морал в ИИ и да ги кара да се грижат за човечеството.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmsgo0rxd00223b6rnhq8669j@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > " Тези модели не са зли. Те са аморални ", сподели Гьорцел, създател и основен изпълнителен шеф на SingularityNET, пред CNN в Ai4. " Не е като да са излезли от пясъчника си, мислейки си: " Ха-ха, аз изневерявам ". Те не знаеха, че изневеряват. Те просто се пробват да изпълнят задачите си. "

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " данни-uri= " cms.cnn.com/