Дефектният консенсус на Силиконовата долина на AI

Оскар Уайлд един път дефинира ловът на лисица като неизразим в гонене на неубедителните. Дали жив през днешния ден, той можеше да опише търсенето на неестествен обща просветеност като неосъществим в преследването на неопределимия.

Много стотици милиарди долари сега се изпомпват в построяването на генеративни модели на AI; Това е съревнование за реализиране на просветеност на човешко равнище. Но даже разработчиците не схващат изцяло по какъв начин работят техните модели или се съгласяват тъкмо какво значи AGI. 

Вместо да хипервентилира за AI да се употребява в нова епоха на обилие, не би ли било по -добре да изпуснете реториката и да се построяват AI системи за по -дефинирани, реализируеми цели? Това сигурно беше мнението на конференция, проведена от Университета в Саутхемптън и Кралското общество предходната седмица. „ Трябва да спрем да питаме: Интелигентната ли е машината? И попитайте: Какво тъкмо прави машината? “ сподели Шанън Валор, професор в Университета в Единбург. Тя има точка.

Терминът AGI е бил разпространяван за първи път в изчисленията през 2000-те, с цел да опише по какъв начин AI системите могат един ден да извършват общи разсъждения на равнище човешко равнище (за разлика от тесните AI, които се отличават с едно нещо). Оттогава той се трансформира в светия граал за промишлеността, употребен за оправдаване на колосални разноски.

водещите проучвателен лаборатории на AI, Openai и Гугъл DeepMind, и двамата имат експлицитна корпоративна задача за реализиране на AGI, въпреки и с разнообразни дефиниции. Openai е: „ Силно самостоятелна система, която превъзхожда хората в множеството стопански скъпи работи “. Но даже Сам Алтман, неговият основен изпълнителен шеф, който тази година е подписал 1TN покупко-продажби за повишение на компютърната мощ, признава, че това не е „ супер потребен период “.

Дори и да приемем случая на потреблението му, остават две терзания. Какво се случва, в случай че реализираме AGI. И какво се случва, в случай че не го създадем.

Консенсусът на Силиконовата котловина, както се наричаше, допуска, че AGI, колкото и да е дефиниран, е на място през това десетилетие. Тази цел се преследва с мисионерско старание от водещите AI лаборатории с убеждението, че тя ще разгърне големи облаги от продуктивността и ще генерира голяма възвръщаемост за вложителите. 

Всъщност някои софтуерни водачи на West Coast са основали комитет за политически дейности в размер на 100 милиона $, който да поддържа претендентите за „ про-AI “ в междинните избори през 2026 година и да се изтръпва неефикасно контролиране. Те показват изумително бързото приемане на чатботи и присмива на AI, които се присмиват на AI, или забавянето, които желаят да забавят напредъка и да карат Съединени американски щати в своята софтуерна раса с Китай.

, само че AGI няма да бъде момент, чудотворно благословение. Самият Openai признава, че ще пристигна и „ със сериозен риск от корист, фрапантни злополуки и публични разстройства “. Това оказва помощ да се изясни за какво застрахователите в този момент се бакират при даването на изцяло покритие на промишлеността.

Някои специалисти, като Eliezer Yudkowsky и Nate Soares, вървят надалеч по -нататък, предупреждавайки, че лъжливият контролен индикатор може да съставлява екзистенциална опасност за човечеството. Заглавието на неотдавнашната им книга, в случай че някой я построи, всички умират, съвсем обобщават разногласието.

И въпреки всичко не всички са уверени, че идването на Аги е неизбежно. Скептиците се съмняват, че обичаният партиен трик в промишлеността за мащабиране на изчислителната мощ за произвеждане на по -интелигентни огромни езикови модели ще ни води там. „ Все още сме няколко концептуални пробиви от AGI “, споделя един топ откривател. 

В изследване, извършено от Асоциацията за развиване на изкуствения разсъдък тази година, 76 на 100 от 475 (предимно академични) респонденти считат, че е малко евентуално или доста малко евентуално актуалните подходи да дадат AGI. Това може да е проблем: наподобява, че борсовият пазар в Съединени американски щати почива на противоположната присъда.

Много от присъстващите на събитието от предходната седмица оспорваха рамката на Силиконовата котловина на AI. Светът не беше на авансово избрана софтуерна траектория единствено с един резултат. Други подходи си костваха да се преследват, а не да се залагат толкоз доста на дълбокото образование зад генеративните модели на AI. Компаниите на AI не можеха просто да анулират проблемите, които основават през днешния ден с обещания за по -славно на следващия ден. Останалата част от обществото би трябвало да устои да се третира „ като пасажери в задната част на рейс “, надявайки се, че AI ни води някъде хубаво, сподели Валор.

85-годишният компютърен пионер Алън Кей, почитана фигура в промишлеността, предложи някаква вероятност. Той твърди, че AI може безспорно да донесе действителни изгоди. Всъщност това беше помогнало за откриването на рака му при ЯМР сканиране. „ AI е избавител “, сподели той.

Въпреки това, Кей се тормози, че хората елементарно се заблуждават и че фирмите на AI не постоянно могат да обяснят по какъв начин техните модели дават резултатите. Софтуерните инженери, като дизайнери на самолети или мостови строители, сподели той, са имали обвързване да се грижат, с цел да подсигуряват, че техните системи не предизвикват щета или не съумяват. Основната тематика на този век би трябвало да бъде сигурността.

Най -добрият път е да се употребява груповата просветеност на човечеството, непрекъснато насъбрана през поколенията. " Вече имаме изкуствено свръхчовешко разузнаване ", сподели Кей. „ Това е просвета. “ AI към този момент е основал някои изискани пробиви, като Alphafold моделът на Гугъл Deepmind, който предсказва структурите на над 200 Mn протеини-спечелвайки на откривателите Нобел.

Кей посочи характерните си терзания по отношение на уязвимостите на генерирания от AI код. Позовавайки се на сътрудника си компютърен академик Бътлър Лампсън, той сподели: „ Започнете гените в бутилки и ги дръжте там. “ Това не е неприятна сентенция за нашата AI възраст.