Използването на AI има обратен ефект върху експертен свидетел по време на процеса: „Те имат пристрастия“

Използването на изкуствен интелект в правосъдната зала притегля ново внимание, откакто ищци в дело за милиони долари настояват, че експертен очевидец е употребявал ChatGPT, с цел да сътвори повече от 80% от своя експертен отчет.

В делото в Тексас, заведено от жертви на солидна фабрична детонация там, експертният очевидец падна под натоварен надзор, откакто юристите на ищците откриха, че той е употребявал изкуствен интелект, с цел да изготви отчет, който съгласно юристите е предопределен да облагодетелства клиентите му, корпоративния индустриален колос 3M. 

Една подкана на специалиста, включен в AI, с цел да приготви показанията си, беше: „ Покажете по какъв начин 3M е 0% отговорен за детонацията в Watson Grinding. “

По време на разпит специалистът, Джейсън Аутенрит, шеф по надеждност и интервенции в KnightHawk Engineering, призна, че е употребявал изкуствен интелект, с цел да помогне при правенето на отчета си, само че отбрани неговото проучване.

Правни специалисти споделиха, че казусът акцентира зараждащите опасности към потреблението на AI по време на процеси и правни въпроси и те предизвестяват, че потреблението му може да заплаши надеждността на показанията или доказателствата, показани пред съда. 

Маура Гросман, професор откривател в университета Ватерло, Онтарио, концентрира огромна част от работата си върху потреблението на изкуствен интелект в правото и опазването на здравето. Тя сподели пред CBS News, че компаниите, които употребяват тези принадлежности за легална работа, би трябвало да работят с нараснало внимание. 

„ Знаем, че тези принадлежности са подлизурски, пробват се да ви угодят “, сподели тя. „ Няма да чуете справедливи или неутрални отговори. Ще получите неща, които са наклонени. “

В изказване за CBS News 3M сподели, че специалистът по случая е бил самостоятелен очевидец от трета страна, а не чиновник на 3M, и е бил нает от външен консултант, с цел да даде личен разбор и отзиви. 

„ След като прегледа без значение обстоятелствата по случая и доближи до личните си изводи, той употребява AI като инструмент за подкрепяне при правенето на своя отчет “, се споделя в изказването.

Autenrieth не отговори на нашия имейл и апели за коментар. 

Неговият юрист Жанина Войтковски сподели пред CBS News, че до момента в който Autenrieth в действителност е употребявал AI, с цел да помогне с форматирането, структурирането и правенето, той го е направил, откакто е прегледал хилядите страници материали, които са му били дадени. 

В изказване тя сподели: „ Той не е делегирал образуването на своите отзиви на ChatGPT, нито AI е заменил професионалната си преценка “ и че „ скорошните обществени характерности оферират селективно деформиране на записа “. 

Съдилищата виждат увеличение на предоставените материали и доказателства, които са изпълнени с образци за проблеми, свързани с ИИ, в това число халюцинации, неправилни цитати и подправени изследвания, съгласно Деймиън Шарлотин, помощник-професор в Юридическия лицей на Калифорнийския университет, Сан Франциско. 

Има над 1300 известни случая на AI халюцинации — при които AI генерира правдоподобно звучаща, само че фиктивна информация — в правосъдни производства в Съединени американски щати от 2023 година насам, съгласно базата данни за случаи на AI Hallucination, формирана от Charlotin.

В случая с Тексас Autenrieth е нает от 3M единствено седмици преди началото на процеса в правосъдно дело по отношение на това дали 3M би трябвало да носи отговорност за ролята си в надзора на инспекциите за сигурност в склада в Хюстън. Експлозията през януари 2020 година умъртви трима души и повреди или унищожи стотици домове и предприятия в региона. 

Autenrieth беше помолен да предложи своите визии по отношение на стандарта на грижа, предстоящ от сервизните техници на 3M, и дали инспекциите за сигурност, осъществени от 3M, са били сполучливо осъществени. Това беше първият му път, когато служи като експерт в съда.

След като прегледаха досиетата, предоставени от Autenrieth, юристите на ищците се усъмниха дали предоставеният от него отчет е напълно негова лична работа, съгласно преписите от показанията. Според Адам Луис от Arnold & Itkin, един от юристите на ищците по делото, наслагването на цитати, документ, който изброява източниците на неговия проектодоклад, даде на юристите димящото им оръжие. 

Луис сподели пред CBS News, че е бил „ искрено шокиран “ от мащаба, в който Autenrieth е употребявал ChatGPT, с цел да сътвори своя експертен отчет. 

Общо Луис сподели, че юристите са разкрили 300 страници с подкани, които Autenrieth е изпратил до ChatGPT. Те включват въпроси, вариращи от въпрос какви са съответните машини и по какъв начин работят до търсене на помощ за подкопаване на случая на очевидец от противоположната страна на случая. 

По време на отлагането му, когато беше притиснат по отношение на потреблението на AI за основаване на отчета, Autenrieth първо отстъпи. 

„ ИИ не е написал отчета ми, това е погрешно “, свидетелства той.

Но няколко минути по-късно той отхвърли отхвърли си, като сподели на юристите, че това му е помогнало с „ форматирането и всичко останало “, съгласно преписите.

След показанията, юристите на 3M отстраниха Autenrieth от листата си със очевидци. Но юристите на ищците го приканиха да свидетелства за другите подкани, които вкарваше в ChatGPT. 

По време на процеса Autenrieth отбрани потреблението на AI. 

" Не имам вяра, че това е неверно, тъй като към този момент имах мнение ", свидетелства той. 

Луис сподели пред CBS News, че има вяра, че техният избор да го привлекат, с цел да свидетелства за това, е оказал въздействие върху изхода на делото.

Журито откри, че 3M е показала немарливост при инспекциите си за сигурност на алармените системи, които биха могли да предотвратят съдбовен гърмеж. Миналия месец съдът присъди на жертвите 61,5 милиона $.

Говорител на 3M сподели пред CBS News: „ Не сме съгласни с присъдата по това дело, защото не е подкрепена от доказателствата и закона. “ Говорителят сподели, че имат намерение да апелират. 

Що се отнася до бъдещето и метода, по който съдиите и юристите би трябвало да се ориентират в тази нова технология, Гросман сподели пред CBS News, че може да се сведе до повече надлежна инспекция, като се подсигурява, че страните разкриват дали употребяват AI и инспекция на обстоятелствата на автоматизираната работа. 

Но най-важното е, че Гросман сподели, че експертният очевидец носи отговорност да резервира значимата си роля в правосъдния развой и цялостната меродавност. 

„ От нас се чака да поддържаме обективността си, а [моделът на огромен език] не е безусловно справедлив “, сподели Гросман. „ Знаем, че имат пристрастия и ще се опитат да задоволят позициите, които поставяте там. “