Друго „халюцинирано“ съдебно дело подчертава разликата между Силиконовата долина и останалия свят

Вижте всички тематики Връзката е копирана! Следвайте

Версия на тази история се появи в бюлетина Nightcap на CNN Business. За да го получите във входящата си поща, регистрирайте се гратис.

Може би преди малко сме станали очевидци на най-фрапиращия случай на работа досега и той има значение – освен тъй като е обективно занимателен, само че и тъй като улавя незадоволително обсъждан колорит в метода, по който генеративният AI действа (или неизправности) за разнообразни промишлености.

търпи ме

В събота почитан юрист в една от най-престижните адвокатски адвокатски фирми на планетата се извини щедро в писмо до арбитър, откакто показа правосъдна документи, цялостна с неточности, в това число изфабрикувани цитати, генерирани от AI.

„ Дълбоко съжаляваме, че това се случи “, написа Андрю Дитдерих, съръководител на отдела за преструктуриране на Sullivan & Cromwell, в писмото, което включва лист от три страници, идентифициращ и коригиращ всяка от повече от 40 неточности. (Малко сол в раната: Дитдерих сподели, че е научил за проблемите едвам откакто са били хванати от противниковия юрист от Boies Schiller Flexner.)

В писмото Дитдерих разказва грешките като „ халюцинации “, в които AI инструментите „ фабрикуват цитати на случаи, цитират неправилно престижи или генерират несъществуващи правни източници “. Той също по този начин сподели, че до момента в който компанията има защитни ограничения към AI, с цел да предотврати „ тъкмо тази обстановка “, тези политики не са били спазени при подготовката на този съответен документ.

Сега, това надали беше първият (нито, евентуално, ще бъде последният) случай, в който юристи с елегантни панталони се натъкват на AI бръмча. Такива неща се случват с изненадваща периодичност, въпреки че рядко го виждаме от сходни на Sullivan & Cromwell, елитна компания от Уолстрийт, чиито сътрудници съгласно известията таксуват към 2000 $ на час за случаи на фалит. (Фирмата не отговори на искане за коментар.)

Но едно от по-удивителните неща в този епизод е по какъв начин той акцентира пропуските в полезността на AI. Повече от три години в задъхания цикъл на звук, стартиран от стартирането на ChatGPT, е ясно, че генеративният AI може да направи доста за доста характерен тип служащи – а точно тези, които кодират – и това може да докара до неловко безумство за други.

Това е по този начин, тъй като кодирането е фундаментално детерминистично, което значи, че има да/не, правилни/грешни резултати. При работа с шифроване софтуерът, който създавате, или работи, или не.

Други способи на работа в офиса нормално се случват в сивите зони: Как да създадем слоган, който отразява нашите полезности? Шефът ми ще избра ли серифни или безсерифни заглавия в тази пич дек? Коя част от правосъдната процедура би трябвало да изтъквам, с цел да поддържа най-добре случая на моя клиент?

В работните места без шифроване има степени на функционалност, осведомени от ценностни преценки. (Този бюлетин, да вземем за пример, към момента излиза даже с правописни неточности, както моите постоянни читатели желаят да отбележат.) Разбира се, можете да помолите чатбот да претегли или да го употребявате като звукова дъска, само че няма обединен, неопровергаем отговор на този вид въпроси.

Това разграничаване сред науката и изкуството има значение, тъй като сега софтуерните компании и вложителите на Уолстрийт вършат големи залози на ИИ. Но, както сподели вложителят Пол Кедроски пред домакина на подкаст „ Plain English “ Дерек Томпсън предишния месец, тези вложители постоянно базират своите оценки на търсенето на опита на ранните осиновители на технологиите, които са „ напълно непредставителни за останалата част от действителния свят на работа “.

Работата на програмистите също е неповторимо обширна, твърди Кедроски. С други думи, колкото повече код пишете, толкоз повече мощ изисква. Повечето други приложения за бели якички за AI „ са склонни да бъдат компресирани – „ Имам голям отчет, не желая да го чета, кажете ми патроните. “

Нищо от това не значи, че AI не е (или един ден няма да бъде) потребен за юристи, откриватели, публицисти, търговци и други сходни. Просто обещанието за AI гражданска война произлиза от хора като Сам Алтман, Дарио Амодей и Марк Зукърбърг – хора, които освен ще станат доста по-богати, в случай че всички стартираме да използваме AI, само че и които са най-запознати със света на технологиите.

И това има значение, когато става въпрос за доказване какво е реклама и какво е същинско заричане. Може да се спори, че три години не са задоволително време за огромните езикови модели да се потвърдят като разрушителите на света, които са обещани да бъдат.

Но не е като LLMs да са единственото AI приложение, което светът е виждал. „ Напълно независимо шофиране “ на Tesla, да вземем за пример, към момента не прави тъкмо това, което е било дадено на клиентите, даже десетилетие откакто изпълнителният шеф Илон Мъск предвижда, че ще се движи изцяло самостоятелно, от бряг до бряг, в границите на две години.

Това не е спряло Tesla да продаде системата въз основа на концепцията, че тя работи, от време на време или постоянно, според от изискванията, с човек, който да ѝ оказва помощ. По-добре е, в сравнение с беше, само че към момента не е задоволително положително, с цел да размени всеки таксиметров водач.

И може би AI като цяло в действителност е ориентиран към това. Възможно ли е това да е иден унищожител на света? може би Може ли да е нещо, което оказва помощ, само че към момента се нуждае от човек, който да му помогне, с цел да избегне злополучие в обозримо бъдеще?

Или какво ще кажете за този, по-конкретно: Могат ли AI моделите да усвоят всички правни текстове, писани в миналото, доказвайки, че няма да имаме потребност от толкоз доста човешки юристи или параюристи?

Отговорът, като толкоз доста отговори в работата на белите якички: Може би! В светлината на гафа на Sullivan & Cromwell е почтено да се каже, че LLMs не са напълно подготвени да съставляват хората в съда.