Ще А.И. Оправяли ли сте някога нейния хайп?
Малко е трудно да се повярва, че преди малко повече от година група водещи изследователи поискаха шестмесечна пауза в разработването на по-големи системи с изкуствен интелект, страхувайки се, че системите ще станат твърде мощни. „Трябва ли да рискуваме да загубим контрол над нашата цивилизация?“ попитаха те.
Нямаше пауза. Но сега, година по-късно, въпросът всъщност не е дали ИИ. е твърде умен и ще превземе света. Това е дали A.I. е твърде глупав и ненадежден, за да бъде полезен. Помислете за съобщението от тази седмица от главния изпълнителен директор на OpenAI, Сам Алтман, който обеща, че ще разкрие „нови неща“, които „ми се струват като магия“. Но това беше просто по-скоро рутинна актуализация, която прави ChatGPT по-евтин и по-бърз.
Сякаш е още един знак, че A.I. дори не е близо до това да оправдае своята реклама. В моите очи изглежда по-малко като всемогъщо същество, а повече като лош стажант, чиято работа е толкова ненадеждна, че често е по-лесно да се справите със задачата сами. Това осъзнаване има реални последици за начина, по който ние, нашите работодатели и нашето правителство трябва да се справим с най-новото ослепително ново, ново нещо на Силиконовата долина. Признаването на недостатъците на ИИ може да ни помогне да инвестираме нашите ресурси по-ефективно и също така да ни позволи да насочим вниманието си към по-реалистични решения.
Други изразяват подобни опасения. „Намирам чувствата си към A.I. всъщност са доста подобни на моите чувства относно блокчейните: те не се справят добре с голяма част от това, което хората се опитват да направят с тях, не могат да правят нещата, за които създателите им твърдят, че биха могли един ден, и много от нещата, които са подходящи може да не е толкова полезно“, написа Моли Уайт, изследовател и критик на криптовалута, в своя бюлетин миналия месец.
да издаде нова песен, използваща ИИ. обучен с откъси от старите си песни.Но някои от най-големите постижения на ИИ изглеждат преувеличени. Някои от вас може би си спомнят, че A.I. модел ChatGPT-4 издържа единния адвокатски изпит преди година. Оказва се, че е постигнал резултат в 48-ия персентил, а не в 90-ия, както твърди OpenAI, според повторна проверка от M.I.T. изследовател Ерик Мартинес. Или какво ще кажете за твърдението на Google, че използва A.I. да открие повече от два милиона нови химични съединения? Повторно изследване от химици по експериментални материали в Калифорнийския университет в Санта Барбара откри „оскъдни доказателства за съединения, които изпълняват трифекта на новост, достоверност и полезност.“
Междувременно изследователи в много области са открили, че A.I. често се затруднява да отговори дори на прости въпроси, независимо дали са свързани със закона, медицината или информацията за избирателите. Изследователите дори са установили, че A.I. не винаги подобрява качеството на компютърното програмиране, задачата, с която се очаква да превъзхожда.
Не мисля, че сме в територията на криптовалутата, където се обърна рекламата да бъде прикритие за редица незаконни схеми, които вкараха няколко големи имена в затвора. Но също така е доста ясно, че сме далеч от обещанието на г-н Алтман, че ИИ. ще се превърне в „най-мощната технология, която човечеството е измисляло досега“. софтуерен инженер“, който беше рекламиран задъхано от техническата преса. Разработчик на софтуер от плът и кости на име Карл Браун реши да се изправи срещу Девин. Задача, която отне на генеративния, задвижван от ИИ агент, повече от шест часа, отне на г-н Браун само 36 минути. Девин също се изпълни зле, изпълнявайки по-бавен, остарял език за програмиране чрез сложен процес. „В момента състоянието на изкуството на генеративния ИИ. просто върши лоша, сложна, сложна работа, която прави повече работа за всички останали“, заключи г-н Браун в своя видеоклип в YouTube.
отговори, като призна, че Девин не е завършил искания изход и добави, че това е нетърпелив за повече обратна връзка, за да може да продължи да подобрява своя продукт. Разбира се, A.I. компаниите винаги обещават, че наистина полезна версия на тяхната технология е точно зад ъгъла. „GPT-4 е най-глупавият модел, който някой от вас някога ще трябва да използва отново в много случаи“, каза наскоро г-н Алтман, докато говори за GPT-5 на скорошно събитие в Станфордския университет.Реалността е, че ИИ. моделите често могат да подготвят прилична първа чернова. Но установявам, че когато използвам ИИ, трябва да отделям почти толкова време за коригиране и преразглеждане на изхода, колкото би ми отнело да свърша работата сам.
И обмислете за момент възможността A.I. няма да стане много по-добре скоро. В крайна сметка ИИ. на компаниите им свършват нови данни, върху които да обучават моделите си, и им свършва енергията, за да захранват своя жаден за енергия ИИ. машини. Междувременно автори и новинарски организации (включително The New York Times) оспорват законността на поглъщането на техните данни в A.I. модели без тяхно съгласие, което може да доведе до принудително изтегляне на качествени данни от моделите.
Като се имат предвид тези ограничения, изглежда ми също толкова вероятно генеративният ИИ. може да свърши като Roomba, посредственият вакуумен робот, който върши сносна работа, когато сте сами вкъщи, но не и ако очаквате гости.
Компании, които могат да се справят с Работата с качество на Roomba, разбира се, все още ще се опитва да замени работниците. Но на работните места, където качеството има значение - и където работната сила като сценаристи и медицински сестри са обединени в синдикати - A.I. може да не навлезе значително.
инвестиционният балон е много вероятно скоро да спадне.Най-големият въпрос, повдигнат от бъдещето, населено с неизключителен ИИ, обаче е екзистенциален . Трябва ли ние като общество да инвестираме десетки милиарди долари, нашето ценно електричество, което би могло да се използва за отдалечаване от изкопаемите горива, и поколение от най-умните математически и научни умове за постепенни подобрения в посредственото писане на имейл?
Не можем да изоставим работата по подобряването на ИИ. Технологията, колкото и да е средна, е тук, за да остане и хората ще я използват. Но трябва да се съобразяваме с възможността, че инвестираме в идеално бъдеще, което може да не се материализира.
към редактора. Бихме искали да чуем какво мислите за тази или някоя от нашите статии. Ето няколко . А ето и нашия имейл: .Следвайте раздела за мнение на New York Times относно , , , и .
