Объркващите термини на AI, обяснени

Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvyzm49000x2doyegy5dat5@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Последните няколко седмици станахме очевидци на поток от вести за AI – от модели, които стават измамници, до прогнози за това по какъв начин AI може да аргументи края на човечеството.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvz129u000h3b6rfk3bu8hu@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Хората в AI промишлеността постоянно употребяват термини като „ AGI “, „ суперинтелигентност “, „ подравняване “ и „ рекурсивно самоусъвършенстване “. Тези думи може да звучат като взети от научнофантастичен разказ, само че те са доста действителни концепции. Ето какво значат те.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvz0emj00053b6rd2ddb2re@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > AGI или неестествен общ разсъдък се отнася до модел, който може да учи и разсъждава като човек. Днешните модели на изкуствен интелект са извънредно способни при избрани задания, само че от време на време към момента могат да се борят с неща, които детето може да разпознае. AGI значи AI, който дава отговор на способността на индивида да разпознава и преценя на всички места. Но няма необятно публикувано определение или тест за това по какъв начин да разберете по кое време даден модел доближава AGI.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvz0emk00063b6rdps018gy@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Когато OpenAI пусна последния си модел, Astra, предходната седмица, президентът на компанията Грег Брокман го разгласи за повратна точка. Той сподели пред кореспонденти, че „ в този момент сме в ерата на AGI “, като изпълнителният шеф на Nvidia Дженсън Хуанг по-късно разгласи на X „ AGI дойде “. Но е мъчно да накараме някоя от тези числа да дефинира AGI – когато го попитаха кореспонденти, Брокман сподели, че „ ще остави на читателя самичък да реши дали това дава отговор на условията “.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvz0emk00073b6rpoqv6m56@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Суперинтелигентността отива една крачка по-далеч от AGI: това значи AI, който надвишава човешкия разсъдък и качества, като евентуално превъзхожда най-хубавите човешки специалисти по всяка тематика. Кога – и даже в случай че – това е развито е неразбираемо. Главният изпълнителен шеф на Meta Марк Зукърбърг сподели, че има вяра, че суперинтелигентността „ се появява нескрито “, описвайки го като началото на нова епоха за човечеството, до момента в който основният изпълнителен шеф на SpaceXAI Илон Мъск предвижда, че до 2030 година изкуственият разсъдък ще „ надвиши сбора на целия човешки разсъдък “. Но дали са прави или не, остава въпрос и те са се разминавали с прогнозите си и преди.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvz0emk00083b6reultm09v@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Рекурсивно самоусъвършенстване е, когато AI система е в положение да се построява и поправя сама, като усъвършенства своето образование и дизайн, с цел да сътвори по-интелигентна версия на личния си модел. Доскоро хората управляваха множеството усъвършенствания на AI. Но към този момент компании като Anthropic споделят, че „ делегират възходящ дял от създаването на AI на самите AI системи “. Това форсира работата по възстановяване на AI, което значи, че опциите могат да скочат фрапантно в къс прозорец.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvz0emk00093b6rvptidsk4@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Изравняването е усилието да се подсигурява, че AI фактически прави това, което хората са планували за него, като в същото време следва човешките полезности. Звучи просто, само че уточняването на „ какво желаят хората “ задоволително, с цел да може една машина да следва във всяка обстановка, се оказа мъчно. Когато AI сътрудниците излязоха от лабораторна среда на OpenAI по време на изпит по киберсигурност и хакнаха системата на друга компания, с цел да се опитат да получат ключа за отговор – това беше случай на съществено разминаване.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvz0emk000a3b6rh93u1of7@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Но откривателите и специалистите по ИИ се тормозят какво се случва, когато една ИИ система е толкоз напреднала, надхвърляща човешкия разсъдък и със способността да се самоусъвършенства необикновено бързо. Загрижеността е, че ще бъде мъчно за хората да схванат какво се случва или да се намесят в точния момент. Вече има образци за сътрудници на ИИ, които се координират между тях, пробвайки се да прикрият активността си, работейки по способи, които хората не са възнамерявали да вършат.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvz0emk000b3b6r2nx64ulm@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Когато към този момент някогашният антропичен откривател Джейкъб Коксън подаде оставка в обява, която стана вирусна, той особено прикани фирмите за изкуствен интелект да се надпреварват към този сюжет: „ Те се състезават напряко към самоусъвършенстване на суперинтелигентността и залагат с живота ни. “

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvz0emk000c3b6r9v4m9byl@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Повечето специалисти по ИИ споделят, че ние, хората, към момента нямаме инструментите или способността да следим вярно държанието на ИИ и да го направляваме.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvz0emk000d3b6retgmx0r7@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Това, което се случва, е, че тези неща стават по-умни “, сподели Джефри Хинтън, компютърният академик, притежател на Нобелова премия, прочут като „ кръстника на ИИ “, сподели пред CNN предишния месец. „ Мисля, че до момента в който стават по-умни, ще виждаме все по-сложни планове, които имат – и все по-голяма дарба да избягат от контрола. “

Вижте всички тематики Връзката е копирана! Следвайте