Изграждането на инструмент за подпомагане на съдилищата да откриват генерирани от изкуствен интелект доказателства е „предизвикателно“: изследовател

Изследовател, който работи, с цел да помогне на съдилищата да открият доказателства, които са основани или изменени с изкуствен интелект, споделя, че се оказва мъчно да се сътвори инструмент, който да е толкоз ефикасен в действителния свят, колкото наподобява в лабораторията.

Маура Гросман е съдиректор на екип от откриватели в Канада, работещи за основаването на инструмент с отворен код, безвъзмезден и елементарен за потребление, който съдилищата и другите, участващи в правосъдната система, могат да употребяват, с цел да разграничат какво е същинско от това, което е подправено.

Докато двугодишният план наближава половината си, тя споделя, че са построили система, която комбинира най-съвременни логаритми, които по-късно работят като комисия, с цел да гласоподават дали нещо е генерирано от AI.

Гросман споделя, че двата пъти, когато го е тествала в обстановки от действителния живот, логаритмите не можаха да реализират задоволително консенсус, с цел да бъдат потребни.
Тя споделя, че това е „ злобен механически проблем “, който съставлява същинско предизвикателство, защото те не престават да работят върху инструмента през идната година.

Гросман, професор по компютърни науки в Университета на Ватерло, който също преподава в Юридическия факултет на Йоркския университет Osgoode Hall, споделя, че идната фаза на плана ще включва приемане на информация от правоприлагащите органи и политици.

Получавайте ежедневни национални вести

„ Не знам дали в миналото съм мислил, че ще бъде елементарно, само че се оказа съвсем обезсърчително какъв брой предизвикателна е тази задача е “, сподели тя в изявление в петък.

„ Все още сме обнадеждени, към момента продължаваме да строим, само че мисля, че сме станали по-скромни във връзка с мисленето, че един инструмент е отговорът, за разлика от това е проблем, който ще се нуждае от помощ от закона, от регулациите, от политиците, от образованието на хората, с цел да станат по-добри в знанието по какъв начин да дешифрират кое е същинско и кое не. “

Част от това, което прави нещата сложни, сподели тя, е, че изображение, оповестено в обществени медии, да вземем за пример, ще бъде компресирано и евентуално ще бъде лишено от своите метаданни, като ще стане доста друго от истинския файл досега, в който бъде показан като доказателство.

„ Няма да има тази информация, която истинското копие е имало, и възможностите са, че истинското копие е изчезнало три години по-късно, до момента в който ме съдите, че съм споделила нещо извънредно за вас или каквото и да съм направила “, тя сподели.

„ Това е част от него и същото нещо, в случай че го изпратя по имейл на вас и вие го изпратите по имейл на още шест души, данните просто се трансформират през цялото това прекачване. “

Проектът е една от двете встъпителни проучвателен начинания, финансирани посредством програмата на Канадския институт за сигурност на ИИ на Канадския институт за напреднали проучвания, стартирана от федералното държавно управление през 2024 година като част от неговия по-широк AI тактика за сигурност.

Екипът включва технолози и правни учени, основани в университети в Онтарио и Британска Колумбия, само че неговият съвещателен съвет е разпилян из Северна Америка и включва съдии, както и организации, подкрепящи самопредставляващи се страни.

Когато планът беше разгласен предходната година, Гросман сподели, че съдилищата не са задоволително готови за AI. Съществуващите комерсиални принадлежности не бяха задоволително транспарантни или надеждни, изключително за правосъдния подтекст, където залозите са високи, сподели тогава тя.

Тя акцентира в петък, че екипът в никакъв случай не е представял инструмента си като сребърен патрон, прибавянето на който и да е инструмент отново ще изисква човешко присъединяване и прозорливост.

„ Ще имате потребност от някой, който да може да свидетелства за какво мислят това, което мислят, и всичко това “, тя сподели.

„ Но има по-широки съставни елементи за това, които би трябвало да бъдат включени в картината, някои от които са политически съображения – като може би някои неща би трябвало да се забранят изцяло да бъдат основани, вместо да поставяме цялата тежест върху откриването им след обстоятелството. “