Съдилищата в Квебек казват, че генеративният изкуствен интелект не може да замени разсъжденията на съдиите

Съдилищата в Квебек издадоха нови насоки, ограничаващи потреблението на генеративен изкуствен интелект от съдиите, наблягайки, че съдийството би трябвало да остане фундаментално човешка отговорност.

Насоките, признати взаимно от Апелативния съд на Квебек, Върховния съд, Съда на Квебек и общинските съдилища на провинцията споделят, че генеративният ИИ може да се употребява за избрани помощни задания, само че не може да размени правосъдните разсъждения, оценката на доказателствата или съвещанието.

Съдиите, споделят те, би трябвало да остане изключителна отговорност на съдиите.

„ Генеративният ИИ, колкото и комплициран да е, не има нито преценка, нито съвест и не предстои на каквато и да е форма на отчетност “, декларира Документ от 10 страници. „ Той не може да разбере човешкия, обществения и правния подтекст, характерен за всеки случай. “

Ходът идва месеци откакто бяха повдигнати въпроси дали арбитър от Квебек може да е употребявал генеративен AI при правенето на решение.

La Presse заяви през март, че решението съдържа препратки към правосъдна процедура, която не съществува, което повдига опцията генеративен AI да е бил употребен. Епизодът оказа помощ да се сътвори чувство за необходимост в правосъдната система, до момента в който работеше за определяне на правила за технологията.

Получавайте ежедневни национални вести

Съдилищата споделят, че сега няма утвърдени, сигурен институционален генеративен AI инструмент, наличен за съдиите. Те също по този начин предизвестяват, че съществуващите принадлежности разчитат на логаритми, чиято работа остава значително непрозрачна.

„ Съдийството не може да бъде сведено до техническо упражнение “, се споделя в напътствията. „ Това е присъща човешка функционалност, учредена на разискване, разглеждане на подтекста, ценене на достолепието, условие за правдивост и практикуване на морална отговорност. “

Съдилищата признават, че генеративният ИИ може да бъде потребен, само че споделят, че не може да се употребява като източник на правна власт или обосновка, за оценка на доказателства или за взимане на решения.

Съдиите могат да го употребяват за лимитирани задания като поправяне, преразглеждане, преформулиране или превод на текст, който към този момент са написали, избрана административна работа или намиране на информация в избрани източници.

Всяко такова потребление би трябвало да остане под човешки надзор, а материалът, генериран от AI, би трябвало да бъде без значение тестван.

Насоките обясняват, че съдиите остават изцяло виновни за своите правни претекстове, наличието на решенията си и точността на обстоятелствата, препратките, цитатите и правните престижи, които цитират.

„ Не може да се припише неточност на потребления инструмент “, се споделя в документа. „ Използването на генеративен AI инструмент не понижава задължението на съдията да ревизира или цялостната им отговорност за крайния резултат. “

В насоките се споделя, че AI не може да се употребява за основни правни разсъждения, анализиране или характеризиране на обстоятелства, оценка на доказателства или меродавност, установяване на резултата от спор или правене на тези елементи от решение.

„ Ако потреблението на AI има резултат или цел на установяване на правния излаз, оценка на достоверността или пояснение на противоречиви обстоятелства, пояснение на уместността на обстоятелства или формулиране на претекстовете за решение, не би трябвало да се употребява “, се споделя в насоките.

Съдилищата също по този начин предизвестяват съдиите за рисковете за дискретност.

Съдиите не би трябвало да дават принадлежности за изкуствен интелект с планове на решения, бележки за настоящи каузи или информация, предпазена от закона или съда ред.

Докато не е налична упълномощена институционална система, съдиите, употребяващи AI инструмент за позволени цели, би трябвало също по този начин да подсигуряват, че настройките му предотвратяват потреблението на въведена от тях информация за образование или възстановяване на системата.

Когато се съмнявате, насоките предлагат на съдиите да се въздържат от потребление на генеративен AI.

Насоките са предопределени да защитят правила, в това число правосъдна самостоятелност, безпристрастност, правдивост, човешки права и достъп до правораздаване, като в същото време подсигурява дискретност, сигурност и отбрана на данните.