Стигате ли AI твърде далеч? Върховният съд на Ню Мексико глоби адвокат с 5000 долара за представяне на „фалшиви показания“, генерирано от ChatGPT резюме
Върховният съд на Ню Мексико санкции в сряда юрист на отбраната с 5000 $, откакто той показа заявление, съдържащо подправени полицейски показания и изфабрикувани показания на очевидци, генерирани от ChatGPT на OpenAI.
Стивън Арънс, юрист на отбраната, представляващ клиент в обжалване на присъда за ликвидиране, беше упрекнат в пренебрежение за това, че не е ревизирал точността на документите. Той сподели, че е подготвил резюмето благодарение на програмата за изкуствен интелект (AI), съобщи Ройтерс.
Прочетете също | Кой е Джейкъб Коксън? Неговото предизвестие за сигурност на AI и по какъв начин OpenAI, Anthropic реагираха
Ето какво се случи
Ааронс, частен юрист от Санта Фе, представляваше Оскар Рене Сандовал в обжалването му. Сандовал се призна за почтен за убийството на майката на децата си, само че беше наказан и наказан на пожизнен затвор предходната година.
Миналия месец Върховният съд на Ню Мексико изиска от Ааронс да изясни по какъв начин изфабрикуваният материал, за който се твърди, че съдържа детайлности като „ измислени изказвания, че стрелецът е носел тъмни панталони и бяла риза “, е бил включен в главната му тъжба.
По време на чуване на На 21 август частният юрист сподели на панела, че е качил компютърно генериран дубликат и други материали по делото в ChatGPT, предполагайки, че AI chatbot ще генерира „ непропускливо обобщение “.
След като изслушаха обяснението му, съдиите показаха съмнение, че той не е бил изцяло наясно с капацитета на AI да прави неточности. Съдия С. Шанън Бейкън сподели: „ Адвокат, гледате ли вести? Слушате ли радио? Четете ли нещо за това, което се случва по света? “ и добави: „ Тъй като казусът с юристите, които разчитат на халюцинации на AI, е история от горната страна на екрана всеки ден. “
Прочетете също | „ Спрете ChatGPT “: 14-годишна обява в Twitter става вирусна, провокира тайни теории
В изказване юристът на отбраната сподели, че когато се е съгласил да поеме делото на обвинения предходната година, той е употребявал ChatGPT, чатбота на OpenAI, с цел да заключи правосъдното произвеждане. Той обаче сподели, че не схваща степента, до която чатботът може да „ халюцинира “ обстоятелства.
Той сподели: „ Разкайвам се, само че се надявам, че дисциплинарната комисия ще вземе поради, че това е почтена неточност “, и добави: „ Това е теоретичен урок за всички експерти, които разчитат на тази мощна, само че от време на време нестабилна технология. “
Случаят на Арънс идва в миг, когато съдилищата в Съединените щати виждат възходящ брой случаи, в които юристи са били дисциплинарно осъдени както от щатски, по този начин и от федерални съдии за потребление на AI принадлежности, без да са ревизирали съответно своите правосъдни документи, преди да ги подадат. Според отчета някои съдии също са били подлагани на инспекция за личното си потребление на AI.
Освен това няколко юристи са били изправени пред наказания за подаване на бележки, съдържащи неточности, генерирани от AI, в това число подправени цитати на каузи и неправилни препратки към закона. Изглежда, че заявката на Арънс е лишило въпроса още една крачка напред, като в наказателното обжалване са включени изфабрикувани свидетелски показания.
Какво сподели съдът?
Съдът сподели, че заявката „ съдържа погрешни показания от напълно изфабрикувани очевидци “ и добави, че Арънс е „ показал липса на разкайване и липса на угриженост за клиента си “. Панелът означи също, че Арънс ще бъде отправен до дисциплинарен съвет на юриста за по-нататъшно следствие.
Обжалването, което към момента е висящо, беше предоставено на Ким Чавес Кук, публичен бранител в Ню Мексико, по-рано този месец.
(с информация от Ройтерс)
