Върховният съд на Индия е ядосан, след като младши съдия цитира фалшиви заповеди, генерирани от изкуствен интелект
Върховният съд на Индия заплаши с правни последствия, откакто беше открито, че арбитър е постановил решение по заможен спор, употребявайки подправени правосъдни решения, генерирани от изкуствен интелект. Върховният съд, който отговаряше на тъжба на обвинените, в този момент ще прегледа решението, постановено от по-долния съд в южния щат Андхра Прадеш. Върховният съд анулира делото въпрос на „ институционална угриженост “ и сподели, че подправените правосъдни решения, генерирани от изкуствен интелект, имат „ директно отношение към честността на правосъдния развой “. Инцидентът нашумя в новините, трансформирайки се в последния от поредност от случаи, в които изкуствен интелект е нарушил правосъдните производства в Индия и другаде по света Проблемите по делото в Андхра Прадеш породиха през август предходната година, когато младши цивилен арбитър в първоинстанционния съд в град Виджайвада издаде заповед по дело за противоречива благосъстоятелност. Предварително съдът е упълномощил на длъжностно лице да огледа парцела и да сформира протокол, против което ответниците по делото възразиха. Съдията отхвърли възражението им, цитирайки четири минали правосъдни решения - всички от които по-късно беше открито, че са генерирани от AI. Програмите за AI имат доста опростени задания на работното място, само че генеративните AI системи са известни със способността си да „ халюцинират “ и да утвърждават лъжи като факт, даже от време на време да измислят източници за неточната информация. Обвиняемите оспориха заповедта във Върховния съд на щата, като показаха, че цитираните заповеди са подправени. Върховният съд призна това, само че одобри, че младшият цивилен арбитър е позволил грешката „ добросъвестно “ и все пак се съгласи с решението на първоинстанционния съд. В своята заповед висшият съд сподели, че „ цитатите може да не съществуват, само че в случай че подготвеният първоинстанционен съд е разгледал верните правила на закона и приложението му към обстоятелствата на казусът също е верен, елементарното споменаване на неправилни или несъществуващи постановления/цитати в заповедта не може да бъде съображение за анулация на заповедта “. Върховният съд също изиска отчет от младшия арбитър, който е употребявал решенията, генерирани от AI. Тя сподели пред съда, че за първи път употребява инструмент с изкуствен интелект и е вярвала, че цитатите са „ същински “. Тя не е имала желание да цитира неправилно или да показва неправилно решенията и че „ грешката е зародила само заради разчитането на автоматизиран източник “, написа Върховният съд. Върховният съд също се застъпи за „ упражняването на автентичен разсъдък над изкуствения разсъдък “. След това ответниците апелираха още веднъж, като отнесоха въпроса до Върховния съд, който беше по-малко щадящ за въздействието на AI. Остро против подправените правосъдни решения, висшият съд предишния петък отсрочи заповедта на по-долния съд по отношение на имотния спор. В него се споделя, че потреблението на изкуствен интелект при взимане на преценки не е просто „ неточност при вземането на решение “, а акт на „ непозволено държание “. „ Този случай допуска забележителна институционална угриженост не заради решението, взето по съществото на делото, а по отношение на процеса на изговаряне и установяване “, сподели висшият съд. Съдът сподели, че ще прегледа случая по-подробно и издаде вести до основния прокурор и основния прокурор на страната, както и до Адвокатския съвет на Индия. В друго дело предишния месец Върховният съд изрази угриженост по отношение на наклонността юристи да употребяват AI принадлежности за правене на петиции. „ Това е безусловно излишно “, уеб сайтът за правни вести LiveLaw цитира думите на съда. Индия не е единствената, която се преценява с резултатите от ИИ в съдилищата. През октомври двама федерални съдии в Съединени американски щати бяха извикани за потреблението на ИИ принадлежности, довели до неточности в техните решения. През юни 2025 година Върховният съд на Англия и Уелс предизвести юристите да не употребяват материали, генерирани от AI, след поредност от случаи, представени като фиктивни или отчасти измислени решения. Правните институции в Индия се борят дружно с други по света по какъв начин да контролират и следят потреблението на AI в правосъдната зала. Миналата година Върховният съд разгласява бяла книга по отношение на AI в правосъдната система на Индия, в която изброява най-хубавите практики, както и насоки за потребление на AI от правосъдни институции, юристи и служители. Съдът акцентира нуждата от човешки контрол и значимостта на поддържането на институционалните защитни ограничения „ крепко сложени “.
