Технологичните компании искат да изградят изкуствен общ интелект. Но кой решава кога да се постигне AGI?
В ход е надпревара за изграждане на изкуствен общ интелект, футуристична визия за машини, които са толкова умни, колкото хората, или поне могат да правят много неща толкова добре, колкото и хората.
Постигането на такава концепция — обикновено наричана AGI — е движещата мисия на създателя на ChatGPT OpenAI и приоритет за елитните изследователски крила на технологичните гиганти Amazon, Google, Meta и Microsoft.
Това също е причина за безпокойство за световните правителства. Водещи учени в областта на изкуствения интелект публикуваха изследване в четвъртък в списание Science, предупреждавайки, че непроверените агенти на изкуствен интелект с умения за „дългосрочно планиране“ могат да представляват екзистенциален риск за човечеството.
Но какво точно е AGI и как ще разберем кога е постигнато? Някога в периферията на компютърните науки, сега това е модна дума, която непрекъснато се предефинира от онези, които се опитват да я осъществят.
Какво е AGI?
Да не се бърка с подобните- звучащ генериращ AI — който описва AI системите зад набора от инструменти, които „генерират“ нови документи, изображения и звуци – изкуственият общ интелект е по-неясна идея.
Това не е технически термин, а „сериозна, макар и зле дефинирана концепция“, каза Джефри Хинтън, пионер в областта на изкуствения интелект, който е наричан „кръстникът на изкуствения интелект“.
„Не мисля, че има споразумение какво означава терминът“, каза Хинтън по имейл тази седмица. „Използвам го, за да означава AI, който е поне толкова добър, колкото хората в почти всички когнитивни неща, които хората правят.“
Хинтън предпочита различен термин – суперинтелигентност – „за AGI, които са по-добри от хората.“
Малка група ранни привърженици на термина AGI се опитваха да покажат как компютърните учени от средата на 20-ти век са си представяли интелигентна машина. Това беше преди изследванията на AI да се разклонят в подполета, които усъвършенстваха специализирани и търговски жизнеспособни версии на технологията - от разпознаване на лица до гласови асистенти за разпознаване на реч като Siri и Alexa.
Майнстрийм изследванията на AI „се отклониха от първоначалната визия за изкуствения интелект, която в началото беше доста амбициозна“, каза Пей Уанг, професор, който преподава курс по AGI в Temple University и помогна за организирането на първата AGI конференция през 2008 г.
Поставянето на „G“ в AGI беше сигнал за онези, които „все още искат да направят голямото нещо. Ние не искаме да създаваме инструменти. Искаме да изградим мислеща машина,” каза Уанг.
Вече ли сме в AGI?
Без ясна дефиниция е трудно да се знае кога една компания или група от изследователи ще има са постигнали изкуствен общ интелект – или ако вече са го постигнали.
„Преди двадесет години мисля, че хората с радост биха се съгласили, че системи със способността на GPT-4 или (на Google) Gemini са постигнали общ интелект, сравним с това на хората“, каза Хинтън. „Да можеш да отговориш повече или по-малко на всеки въпрос по разумен начин би издържал теста. Но сега, когато AI може да направи това, хората искат да променят теста.“
Подобрения в „авторегресивните“ AI техники, които предсказват най-правдоподобната следваща дума в последователност, комбинирани с огромна изчислителна мощност за обучение на тези системи върху изобилие от данни, доведоха до впечатляващи чатботове, но те все още не са точно AGI, който много хора имаха предвид. Достигането до AGI изисква технология, която може да работи също толкова добре, колкото и хората в голямо разнообразие от задачи, включително разсъждения, планиране и способност за учене от опита.
Някои изследователи биха искали да постигнат консенсус относно това как да го измерват. Това е една от темите на предстоящия семинар на AGI следващия месец във Виена, Австрия – първият на голяма изследователска конференция за ИИ.
„Това наистина изисква усилия и внимание на общността, така че взаимно да можем да се споразумеем за някои нещо като класификации на AGI“, каза организаторът на семинара Jiaxuan You, асистент в Университета на Илинойс Урбана-Шампейн. Една идея е да се сегментира на нива по същия начин, по който производителите на автомобили се опитват да сравняват пътя между круиз контрол и напълно самоуправляващите се превозни средства.
Други планират да го разберат сами. Компанията OpenAI от Сан Франциско е възложила на своя борд на директорите с нестопанска цел - чиито членове включват бивш министър на финансите на САЩ - отговорността да решава кога нейните AI системи са достигнали точката, в която "превъзхождат хората в най-икономически ценната работа".
„Бордът определя кога сме постигнали AGI“, се казва в собственото обяснение на OpenAI за неговата структура на управление. Подобно постижение би отрязало най-големия партньор на компанията, Microsoft, от правата да комерсиализира такава система, тъй като условията на техните споразумения „се отнасят само за технология преди AGI.“
Опасно ли е AGI?
Хинтън направи глобални заглавия миналата година, когато напусна Google и отправи предупреждение за екзистенциалните опасности на ИИ. Ново научно проучване, публикувано в четвъртък, може да засили тези опасения.
Неговият водещ автор е Майкъл Коен, изследовател от Калифорнийския университет, Бъркли, който изучава „очакваното поведение на като цяло интелигентни изкуствени агенти“, особено тези, които са достатъчно компетентни да „представлява реална заплаха за нас, като ни планира.”
Коен изясни в интервю в четвъртък, че такива дългосрочни агенти за планиране на ИИ все още не съществуват. Но „те имат потенциала да бъдат“, тъй като технологичните компании се стремят да комбинират днешната чатбот технология с по-съзнателни умения за планиране, използвайки техника, известна като обучение с подсилване.
„Даването на целта на усъвършенствана AI система да максимизира възнаграждението си и в даден момент задържането на награда от нея, силно стимулира AI системата да извади хората от цикъла, ако има възможност,“ според статията, чиито съавтори включват видни учени по изкуствен интелект Йошуа Бенгио и Стюарт Ръсел и професор по право и бивш съветник на OpenAI Джилиан Хадфийлд.
„Надявам се, че сме направили така, че хората в правителството да решат да започнат да мислят сериозно относно точно какви разпоредби са ни необходими, за да се справим с този проблем“, каза Коен. Засега „правителствата знаят само това, което тези компании решат да им кажат.“
Твърде легитимно ли е да напуснете AGI?
С толкова много пари, които се движат върху обещанието за напредък на AI, не е изненада, че AGI също се превръща в корпоративна модна дума, която понякога привлича квази-религиозен плам.
Това раздели част от технологичния свят между тези, които твърдят, че трябва да се развива бавно и внимателно, и други – включително рисковите капиталисти и рапъра MC Hammer – които се обявиха за част от лагера на „акселераторите“.
Базираният в Лондон стартъп DeepMind, основан през 2010 г. и сега част от Google, беше една от първите компании, които изрично се заеха да разработят AGI. OpenAI направи същото през 2015 г. по-късно с обещание, фокусирано върху безопасността.
Но сега може да изглежда, че всички останали скачат на бандата. Съоснователят на Google Сергей Брин наскоро беше видян да излиза в калифорнийско заведение, наречено AGI House. И по-малко от три години след като промени името си от Facebook, за да се съсредоточи върху виртуалните светове, Meta Platforms през януари разкри, че AGI също е на върха на дневния ред.
Главният изпълнителен директор на Meta Марк Зукърбърг каза, че дългосрочната цел на неговата компания е „изграждане на пълна обща интелигентност“, която ще изисква напредък в разсъжденията, планирането, кодирането и други когнитивни способности. Докато компанията на Зукърбърг отдавна има изследователи, фокусирани върху тези теми, вниманието му беше промяна в тона.
В Amazon един признак за новите съобщения беше, когато главният учен за гласовия асистент Alexa смени длъжността си, за да стане главен учен за AGI.
Въпреки че не е толкова осезаемо за Уолстрийт като генеративния AI, излъчването на амбиции за AGI може да помогне за наемането на таланти за AI, които имат избор къде искат да работят.
При вземането на решение между „стари -училищен AI институт“ или такъв, чиято „цел е да изгради AGI“ и разполага с достатъчно ресурси за това, мнозина биха избрали второто, каза Вие, изследовател от Университета на Илинойс.
