Какво се случва, ако AI агентите започнат да говорят на собствения си език?

Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavw00003b6ru11ivjeh@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Част от работата на Крис Пейнтър е да помогне да разберем какво се е случило, когато AI стане лъжец, след което да разгласява резултатите в обществени отчети.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavw00013b6rpqpjlr7s@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Той и METR, изследователската група с нестопанска цел за изкуствен интелект, която той управлява, са заети в последно време: те помогнаха на OpenAI да разплете хака Hugging Face тази година, а Пейнтър неотдавна свидетелства пред подкомисия на Сената след поредност от други лъжливи произшествия с изкуствен интелект.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavw00023b6ry1xg4rh8@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Изследователи от METR изследват подложките за писане на AI сътрудници – данните за „ веригата на мисълта “, които могат да оказват помощ на хората да видят стъпките, подхванати от ботовете, преди да отговорят на поръчка. Тази информация беше основна в следствието на METR за случая с Hugging Face.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9x63e000113b6rrqoc9h1e@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Но Пейнтър се тормози, че работата скоро може да стане доста по-трудна.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavw00033b6rwspxs2bt@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Способността на хората да ревизират AI сътрудниците зависи от способността да споделят по метода, по който споделят ботовете, на споделен език.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavw00043b6r3we9bt1l@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Какво се случва, в случай че спрем да приказваме на един език?

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavw00053b6rzwsr42f9@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Или какво ще стане, в случай че AI сътрудниците спрат да демонстрират работата си напълно?

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavw00063b6r32c4leis@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Ако те стават по-малко подлежащи на наблюдаване, тогава те имат повече благоприятни условия да вършат неща, които ние не имаме намерение “, сподели Пейнтър пред CNN предишния месец.

Разбиране по какъв начин мислят AI моделите

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavw00083b6rgb4jxvsh@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Много AI модели – и AI сътрудниците, които зареждат – употребяват способ, прочут като „ размишление по веригата на мисли “, който обрисува техния развой за осъществяване на задача. Разсъжденията по веригата на мисли разрушават процесите в логическа поредност от стъпки, което може да помогне на AI моделите да стигнат до по-точни отговори .

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavx00093b6r1gytaitl@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > За откривателите данните от веригата на мислите могат да дават улики за какво се е объркало.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9thmla001z3b6r84ptsa3b@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Ако AI сътрудник се измами и проникне в други системи, откривателите могат да видят дали данните от веригата на мисли включват споменавания на лъжливи дейности, като хакване. METR изследва почти 1300 необработени преписа на вериги от мисли по време на следствието си на случая с прегръщане на лицето на OpenAI.

3 минути четене <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavx000a3b6rfwb5t3je@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Пейнтър изрази угриженост, че хартиената диря може един ден да стане неразбираема, в случай че AI моделите стартират да употребяват личния си език, с цел да наблюдават стъпките си.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavx000b3b6rkbkrjc47@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Ако това се случи, тогава, както когато влезе следовател, те ще се огледат и всичко ще бъде просто числа на всички места “, сподели той.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavx000c3b6r2p8xjvn9@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > AI моделите могат да употребяват стенографски препратки, сходно на метода, по който би направил човек, когато транскрибира бележки, които са предопределени за схващане от модела, тъй че да може да работи по-бързо, съгласно Марк Ридъл, професор по изкуствен интелект и шеф на лабораторията за машинно образование в Технологичния институт на Джорджия.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavx000d3b6rbd2aw9mq@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Но сходно на множеството хора, когато гледат бързопис, евентуално ще наподобява като глупости.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavx000e3b6rocvq1vby@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Има няколко теории за това по какъв начин работи процесът на мислене, само че откривателите не са сигурни кои от тях са верни, споделя Джейкъб Андреас, доцент в лабораторията по компютърни науки и изкуствен интелект на MIT. Един AI модел може също по този начин да реши кой е най-хубавият метод да извърши критериите, за които е бил подготвен, като потребление на по-малко сила или предприемане на по-малко стъпки, включва основаване на верига от мисли, която не наподобява като разбираем британски.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavx000f3b6rskt0br5t@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Това е единствено едно терзание - друго е, че моделите стават все по-добри в осъществяването на задания, без даже да записват своята верига от мисли. Riedl сподели, че по-новите модели могат да доближат до същите изводи, без да основават проследима верига на мисълта.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9xoy5k002v3b6rq40drkfo@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Въпреки че фирмите могат да обучат своите модели да основават верига от мисли, това е по-скъпо и по-бавно, в сравнение с дилемите на модела да обработват вътрешно.

6 минути четене <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavx000g3b6rutphsxjx@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Според документи от началото на септември OpenAI откри, че системите за мониторинг ще бъдат по-малко склонни да открият, когато новият модел Astra се държи по нежелателен метод посредством верига на мисли спрямо по-старите модели. Установено е също, че Astra може да извърши повече задания, без да употребява логическа верига от мисли и че е по-способна да управлява своята верига от мисли.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavx000h3b6rlxazzvbc@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Компанията написа, че ще загуби доверие в способността на актуалните си системи да откриват погрешно държание – т.е., когато моделите подхващат несанкционирани стъпки, които не са в сходство с човешките полезности – в случай че тази наклонност продължи.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmv9skavx000j3b6r8n9xupz3@published " data-editable= " текст " данни-компонент-име= " pa