AI Skeptic Emily Bender: „Императорът няма дрехи“

Преди Емили Бендер и аз разгледахме меню, тя отхвърли чатботите на изкуствения разсъдък като „ машини за плагиатство “ и „ синтетични текстови екструдери “. Скоро след идването на храната професорът по филология прибавя, че похвалите с огромни езикови модели (LLM), които са в основата им, са „ родени лайна “.

Тъй като Openai започва диво известния си чатбот на Chatgpt в края на 2022 година, AI фирмите са изсмукали десетки милиарди долари финансиране, като дават обещание научни пробиви, материално обилие и нова глава в човешката цивилизация. AI към този момент е в положение да прави работни места и скоро ще „ открие нови познания “, сподели шефът на Openai Сам Алтман пред конференция този месец.

Според Бендер, ние ни продават неистина: AI няма да извърши тези обещания и нито ще ни убие всички, както са предизвестили другите. AI е, макар свръх, много неприятни в множеството задания и даже на най -добрите налични системи през днешния ден, нямат нещо, което може да се назова просветеност, твърди тя. Последните изказвания, че моделите създават дарба за схващане на света отвън данните, на които са подготвени, са безсмислени. Ние „ представяме си разум зад текста “, споделя тя, само че „ разбирането е всичко в нашия край “.

Bender, 51, е специалист в метода, по който компютрите моделират човешкия език. Тя прекара ранната си академична кариера в Станфорд и Беркли, две институции за залива, които са кладенците на актуалната AI гражданска война, и работи в YY Technologies, компания за обработка на натурален език. Тя стана очевидец на спукането на балона на Дотком през 2000 година от първа ръка.

Нейната задача в този момент е да обезвреди AI, което тя ще се отнася единствено във въздушните цитати и споделя, че в действителност би трябвало просто да се назова автоматизация. „ Ако желаеме да преодолеем този балон, мисля, че имаме потребност от повече хора, които не падат за това, да не имаме вяра в това и имаме потребност от тези хора, които да бъдат на властови позиции “, споделя тя.

В неотдавнашна книга, наречена AI Con, тя и нейният съавтор, социологът Алекс Хана, поемат кувалда на AI Hype и повдигнете алармата за по-коварните резултати на технологията. Тя е ясна за мотивацията си. „ Мисля, че това, което се свежда, е: никой не би трябвало да има силата да постанова мнението си за света “, споделя тя. Thanks to the huge sums invested, a tiny cabal of men have the ability to shape what happens to large swaths of society and, she adds, “it really gets my goat ”.

It feels like people are mad that I am undermining what Те виждат като коронованото достижение на нашето поле

Нейната теза е, че Whizzy Chatbots и принадлежности за генериране на изображения, основани от Anthropic Anthropic, XAI, Гугъл и Meta, са малко повече от „ стохастични пароти “, който тя е влезнала в отчета 2021. Стохастичният папагал, написа тя, е система „ за инцидентно зашиване на дружно последователности от езикови форми, които е следил в големите си данни за образование, съгласно вероятностната информация за това по какъв начин те се комбинират, само че без да се базира на смисъла “.

Хартията я простреля към популярност и задейства рамо в Ai Circles. Двама от нейните съавтори, висши членове на екипа на Етичния ИИ в Гугъл, изгубиха работата си в компанията малко след публикуването. Бендер също се сблъсква с рецензии от други учени за това, което те считат за еретична позиция. „ Усеща се, че хората са луди, че подривам това, което виждат като тип на коронясването на нашата област “, казва тя.

Спорът акцентира напрежението сред тези, които желаят да комерсиализират AI бързо и съперници, предупреждаващи за нейните вреди и упорстват за по -отговорно развиване. През четирите години от този момент някогашната група е асцендент.

Ние се срещаме в ресторант с ниски ключове във Фремонт, Сиатъл, близо до Университета във Вашингтон, където преподава Бендер. Ние сме съвсем единствените настойници на изтръпнати от слънцето в понеделник следобяд през май, а сервитьорът се умори да ни пита какво бихме желали след 30 минути и три опита. Вместо това се обръщаме към iPad на масата, което дава обещание да усъвършенства процеса.

Той реализира противоположното. " Ще взема един от тях ", споделя Бендер: " Добавете към CART. Действителната храна може да се разграничава от изображението. Добър, тъй като изображението е сиво. Това е ужасно. Да. Покажи ми... къде е Оторо? Там, а, а, може да са го нямат. " Ние се отхвърляме. Сервитьорът се връща и удостоверява, че в действителност имат Otoro, мастно нарязване на корема с риба звук. Осъзнавайки, че съм британец, той се задържа да попита кой футболен тим поддържа, предлага комисиите си за мен на Арсенал, като беглавинг през този сезон и ми споделя, че е почитател на Тотнъм. Чудя се дали е прекомерно късно да се върнете към iPad.

Otoro nigiri x2 $31.90
Salmon nigiri x2 Щатски долар 8
Agedashi X2 Щатски долар 8
Avocado Maki Щатски долар 5,95
Edamame Щатски долар 3,50
чай за ечемик x2 Щатски долар 5
Общо (включително налог и съвет) Щатски долар 82,56

бендер не постоянно е бил избран да вземе борбата в най -големите компании в света. Преди десетилетие „ имах поради личния си бизнес, правейки граматичен инженеринг “, споделя тя. Но след вълна от обществени придвижвания, в това число Black Lives Matter, мина през кампуса: „ Започнах да запитвам, добре, къде да седнал съм? Каква мощ имам и по какъв начин мога да го употребявам? “ Тя сътвори клас по нравственос в езиковите технологии и няколко години по -късно се оказа, че „ има единствено безкрайни причини в Twitter за това за какво езиковите модели не„ схващат “, като компютърните учени, които не са имали първата част от образованието по филология “.

В последна сметка самият Алтман пристигна да спар. След излизането на хартията на Бендер той туитира „ Аз съм стохастичен папагал и по този начин r u “. По подигравка на ориста, като се има поради рецензията на Бендер към AI като машина за регургитация, нейната фраза в този момент постоянно му се приписва.

Тя вижда ролята си като „ да мога да приказвам истината на властта въз основа на моята академична експертиза “. Истината от нейната позиция е, че машините са по своята същина надалеч по -ограничени, в сравнение с ни бяха накарани да имаме вяра.

Нейната рецензия на технологията е слоена на по -човешка грижа: че чатботите да бъдат възхвалявани като нова парадигма в разузнаването, заплашвайки да форсира обществената изолираност, утежняването на околната среда и загубата на работни места. Обучението на авангардни модели коства милиарди долари и изисква големи количества сила и вода, както и служащи в развиващия се свят, искащи да етикетират затруднените изображения или да категоризират текст за питант. Крайният резултат от цялата тази работа и сила ще бъде основаването на чатботи, които изместват тези, чието изкуство, литература и познания са сурови данни на AI през днешния ден.

„ Не се опитваме да променим мнението на Сам Алтман. Опитваме се да бъдем част от дискурса, който трансформира мнението на други хора за Сам Алтман и неговата технология “, споделя тя.

Масата към този момент е цялостна с ястия. Otoro Nigiri е мек, гальовен и всеки обичай толкоз добър, колкото Bender даде обещание. И двамата сме поръчали Agedashi Tofu, идеално пържени, тъй че да остане твърдо в басейна си от даши и соев сос. Salmon Nigiri, Avocado Maki и Tea също пускат пространството сред нас.

Бендер и Хана пишеха AI Con в края на 2024 година, което те разказват в книгата като върха на взрива на AI. Но от този момент надпреварата за доминиране на технологията единствено се ускори. Водещите компании, в това число Openai, антропски и китайски противник Deepseek, стартираха това, което екипът на AI на Гугъл разказва като „ мислещи модели, способни да разсъждават посредством своите мисли, преди да отговорят “.

Способността да разсъждава би представлявала забележителен стадий от пътуването към AI, който може да надмине на специалистите в целия обсег на човешкия разузнаване, задачата, постоянно наричана като творби обща разследваща информация, или Agi. Редица от най-известните хора в областта-включително Алтман, някогашният основен академик и съосновател на Openai Иля Сутскевър и Елон Мъск настояват, че задачата е на разположение.

Антропският шеф Дарио Амодей разказва AGI като „ неакуратен термин, който събра доста научнофантастичен багаж и свръх “. Но до идната година, твърди той, бихме могли да имаме принадлежности, които са „ по -умни от притежател на Нобелова премия в най -подходящите области “, „ могат да управляват съществуващите физически принадлежности “ и „ потвърждават неразрешени математически теореми “. С други думи, с повече данни, изчислителна мощ и пробиви на проучвания, днешните AI модели или нещо, което ги прилича доста, може да разшири границите на човешкото схващане и познавателните качества.

Бендер отхвърля концепцията, описвайки технологията като „ фикция обвивка към някои електронни таблици “. LLMS гълтам редове от данни и основават своите отговори на статистическата възможност на избрани думи, зараждащи дружно с други. Компютърни усъвършенствания, обилие от онлайн данни и пробиви на проучвания направи този развой надалеч по -бърз, по -сложен и по -подходящ. Но няма магия и няма възникващ разум, споделя Бендер.