Съдия няма да накаже Майкъл Коен за това, че разчита на изкуствен интелект
Съдия от Манхатън в сряда отказа да наложи санкции на Майкъл Д. Коен, някогашният посредник на бившия президент Доналд Дж. Тръмп, след като по погрешка даде на адвоката си фалшиви правни цитати, измислени от Google Bard, програма за изкуствен интелект, за предложение, което адвокатът подготвяше от името на г-н Коен.
адвокат, Дейвид М. Шварц, цитира фалшивите случаи в своето искане, което беше заведено във Федералния окръжен съд.
Съдията, Джеси М. Фърман, каза, че епизодът е неудобно и жалко, но той беше приел обяснението на г-н Коен, че не разбира как работи Google Bard и не искаше да заблуди г-н Шварц. Съдията каза още, че не е установил, че г-н Шварц е действал недобросъвестно.
„Наистина, би било направо ирационално той да предостави фалшиви случаи, които Шварц да включи в предложението, знаейки, че са фалшиви“, пише съдия Фърман за г-н Коен , бивш адвокат, който е лишен от адвокатска правоспособност, като се има предвид вероятността г-н Шварц, правителството или съдът да открият проблема, „с потенциално сериозни неблагоприятни последици за самия Коен.“
Проблемът възникна в случай на укриване на данъци, както и нарушения на финансирането на кампанията, извършени от г-н Коен от името на г-н Тръмп. Г-н Коен се призна за виновен през 2018 г. и излежа в затвора. Той е поискал предсрочно прекратяване на надзора на съда по делото му, след като е бил освободен от затвора и е спазил условията на освобождаването си.
Съдия Фърман е отказал три по-рано такива искания от г-н Коен. В последното си искане неговият адвокат, г-н Шварц, посочи, че клиентът му е свидетелствал два дни миналата есен в процеса за гражданска измама на г-н Тръмп в щата Ню Йорк. „Желанието на г-н Коен да излезе напред и да предостави верни разкази“, твърди г-н Шварц, „демонстрира изключително ниво на разкаяние и отдаденост за спазване на закона.“
Но съдия Фърман каза, че показанията на г-н Коен в щатския процес „всъщност предоставят основание да се отхвърли искането му, а не да се уважи“. Съдията цитира показанията на г-н Коен в щатския граждански процес, в който той призна, че е излъгал във федералния съд, когато се призна за виновен в укриване на данъци, което сега той твърди, че не е извършил.
Адвокат на г-н Коен не отговори веднага на искане за коментар относно решението на съдия Фърман.
Г-н. Доверието на Коен ще бъде в основата на първия наказателен процес срещу г-н Тръмп, който трябва да започне в средата на април в Манхатън. Г-н Коен, един от звездните свидетели на обвинението, беше замесен в сделката за тайни пари в центъра на това дело, заведено от офиса на окръжната прокуратура в Манхатън. Адвокатите на г-н Тръмп може да се опитат да се възползват от противоречивите изявления на г-н Коен по време на процеса за гражданска измама и вероятно дори от решението на съдия Фърман, за да го нарисуват като лъжец. Но офисът на окръжния прокурор вероятно ще се противопостави на това, че г-н Коен е казал много от предишните си лъжи от името на г-н Тръмп и че той е разказвал последователна история за сделката за мълчаливи пари от години.
Съдията, наблюдаващ процеса за гражданска измама, Артър Ф. Енгорон, каза, че намира показанията на г-н Коен за „достоверни“ и наложи съкрушителна присъда от 454 милиона долара на г-н Тръмп.
В искането си да прекрати съдебния надзор на неговия случай г-н Коен се опита да помогне на своя адвокат, г-н Шварц.
г-н Коен каза в клетвена декларация през декември, че не е бил в крак с „възникващите тенденции (и свързаните с тях рискове) в правните технологии и не е осъзнавал, че Google Bard е генеративна текстова услуга, която, подобно на ChatGPT, може да показва цитати и описания, които изглеждат реални, но всъщност не бяха.”
Mr. Коен също каза, че не е осъзнавал, че г-н Шварц „ще пусне случаите в подаването си на едро, без дори да потвърди, че съществуват.“
Г-н. Коен поиска от съдия Фърман да прояви „дискретност и милост“.
Случаят е един от няколкото, които изплуваха във федералния съд в Манхатън през последната година, в които използването на изкуственият интелект е опетнил съдебните дела. В национален мащаб има най-малко 15 случая, в които се смята, че адвокати или представляващи себе си страни са използвали чатботове за правни изследвания, които са си проправяли път в съдебни дела, според Юджийн Волох, професор по право в U.C.L.A. който е писал за изкуствения интелект и закона.
Въпросът избухна в публичното пространство миналата година, след като съдия П. Кевин Кастел, също от федералния съд в Манхатън, глоби двама адвокати с $5000 след като признаха, че са изпратили кратка информация, пълна с несъществуващи решения и правни цитати, които са били генерирани от ChatGPT.
Последват поредица от подобни случаи във федералните съдилища в Манхатън.
В едно, адвокат призна, че цитира „несъществуващ случай“ – Въпрос на Bourguignon срещу Coordinated Behavioral Health Services, Inc. – който според нея е „предложен от ChatGPT“ след нея собствените изследвания не успяха да доведат до решение в подкрепа на аргумента, който тя правеше. През януари Апелативният съд на САЩ за Втори окръг я насочи към съдебен състав, който разследва жалби срещу адвокати.
И в друг случай, съдия Пол А. Енгелмайер от Федералният окръжен съд наказа адвокатска кантора в Обърн, Ню Йорк, която открито призна, че е използвала ChatGPT, за да подкрепи искане за адвокатски хонорари в дело срещу Министерството на образованието на Ню Йорк.
Съдия Енгелмайер каза, че „използването на ChatGPT от фирмата като подкрепа за нейното агресивно предложение за такси е крайно и необичайно неубедително.“
Случаите подчертават предизвикателствата на юридическата професия като адвокати все повече разчитайте на чатботове за изготвяне на правни справки. Програмите с изкуствен интелект, като ChatGPT и Bard (сега известни като Gemini), генерират реалистични отговори, като правят предположения за това кои фрагменти от текст трябва да следват други последователности.
Mr. В декларацията си Коен пише, че е разбрал Бард като „превъзходна търсачка“, която в миналото е използвал, за да получи точна информация. Случаите, които той откри и предаде на г-н Шварц, изглежда са били „халюцинации“ – термин, използван за обозначаване на генерирани от чатбот неточности.
Епизодът стана публичен през декември, когато съдия Фърман каза в заповед, че не може да намери нито едно от трите решения, цитирани от г-н Шварц в искането му. Той нареди на г-н Шварц да му предостави копия от решенията или „задълбочено обяснение за това как се стигна до искането да се цитират случаи, които не съществуват, и каква роля, ако има такава, е изиграл г-н Коен.“
г-н Шварц в собствената си декларация каза, че не е прегледал независимо случаите, предоставени от г-н Коен, тъй като г-н Коен е посочил, че друг адвокат му предоставя предложения за предложението.
„Искрено се извинявам на съда, че не проверих лично тези случаи, преди да ги предам в съда“, написа г-н Шварц.
Бари Каминс, адвокат на г-н. Шварц каза в сряда: „Радваме се, че съдът разглежда тази грешка като грешка, която не е направена недобросъвестно от г-н Шварц.“
Бен Протес допринесе за докладването.
