Съдия от щата Вашингтон блокира използването на подобрено с AI видео като доказателство в възможно първо по рода си решение
Съдия от щата Вашингтон, наблюдаващ дело за тройно убийство, забрани използването на видео, подобрено от изкуствен интелект като доказателство в решение, което според експерти може да е първото по рода си в наказателен съд на Съединените щати.
Решението, подписано в петък от съдията от Върховния съд на окръг Кинг Лерой Маккълог и за първи път съобщено от NBC News, описа технологията като нова и каза, че разчита на „непрозрачни методи за представяне на това, което AI моделът„ смята “, че трябва да бъде показано.“
"Този съд намира, че допускането на това Al-enhanced доказателство би довело до объркване на проблемите и объркване на показанията на очевидци и може да доведе до отнемащ време процес в рамките на процес относно процеса без партньорска проверка, използван от модела AI," съдията написа в решението, което беше публикувано в деловодството в понеделник вечерта.
Решението идва в момент, когато изкуственият интелект и неговите употреби — включително разпространението на дълбоки фалшификации в социалните медии и в политическите кампании — бързо се развиват и докато щатските и федералните законодатели се борят с потенциалните опасности, породени от технологията.
Адвокатите на мъж, обвинен в откриване на огън пред бар в района на Сиатъл през 2021 г., убивайки трима души и ранявайки двама, се опитаха да въведат видео за мобилни телефони, подобрено от софтуер за машинно обучение, съдебните документи показват. Машинното обучение е особена област в рамките на изкуствения интелект, която се издигна до известност през последните години като основа на повечето съвременни системи за изкуствен интелект.
Прокурорите по случая казаха, че изглежда няма правен прецедент, позволяващ технологията в наказателен съд на САЩ, според декларация от февруари във Върховния съд на окръг Кинг. Джонатан Хак, бивш адвокат и адвокат в Канада и експерт по доказателства, базирани на изображения в Съединените щати и другаде, каза, че това е първият случай, за който знае, че наказателен съд е взел отношение по въпроса.
Обвиняемият, Джошуа Пулока, на 46 г., заяви, че се е самоотбранил при убийствата на 26 септември, като адвокатите му казаха в съдебно дело през февруари, че той се е опитвал да намали напрежението в ситуация, когато той беше нападнат и избухна стрелба.
Пулока отвърна на огъня, удряйки смъртоносно невинни минувачи, се казва в документацията. Мъжът, обвинен в нападението над Пулока, също е бил смъртоносно прострелян, показва изявление за вероятната причина.
Смъртоносната конфронтация е заснета във видеото на мобилния телефон. За да подобрят видеото, адвокатите на Пулока се обърнаха към човек, който преди това не е водил наказателно дело, но е имал опит в творческото видео производство и монтаж, според документите на прокуратурата.
Софтуерът използван от него, разработен от базираната в Тексас Topaz Labs, казва, че неговият софтуер се използва от филмови студия и други творчески професионалисти за „суперзареждане“ на видео, според документацията.
Адвокатите на Пулока не отговориха на искания за коментар. В изявление говорител на Topaz Labs каза, че компанията „настоятелно“ препоръчва да не се използва нейната AI технология за съдебни или правни приложения.
Прокуратурата каза, че подобреното видео предсказва изображения, а не отразява размера, формата, ръбовете и цвета, заснети в оригиналния видеоклип. Подобрените изображения са „неточни, подвеждащи и ненадеждни“, се казва в документацията.
В декларация за прокуратурата, включена в документацията, съдебен видеоаналитик, който е прегледал оригиналните и подобрените записи, каза подобрената версия съдържаше визуални данни, които не бяха в оригинала. Данните също са премахнати от подобрената версия, според експерта Грант Фредерикс.
Всеки пиксел „в генерираното от AI видео е нов, което води до видео, което може да изглежда по-приятно за окото на непрофесионален наблюдател, но който съдържа илюзията за яснота и повишена разделителна способност на изображението, която не представя точно събитията от оригиналната сцена,” пише Фредерикс в декларацията.
В в отделна декларация, адвокатите на Пулока контрираха, че подобни твърдения са „преувеличени и преувеличени“. Сравнението на двата видеоклипа показва, че подобрената версия е „вярно изображение на оригинала“, се казва в документа. „И това е, което има значение.“
В своята декларация Фредерикс, който е преподавал за ФБР и е работил като видео анализатор в продължение на 30 години, каза, че не е знаел за рецензирани от партньори публикации, които установяват приета методология за подобрения на AI видео. ФБР не включва нищо по темата в най-добрите си практики за обработка на съдебномедицинско видео, каза той.
Джордж Рейс, бивш следовател на местопрестъплението и дългогодишен криминалистичен видеоаналитик в Южна Калифорния, каза, че е знаем за шепа примери за изкуствен интелект, който се използва като потенциален инструмент за разследване за изясняване на изображенията на регистрационния номер.
Една от компаниите, които са разработили такъв софтуер, Amped, каза в публикация в февруари, че изкуственият интелект не е достатъчно надежден, за да се използва за подобряване на изображението в законна среда. Компанията посочи непрозрачните резултати на технологията и потенциално пристрастните резултати.
„Това е нова наука“, каза Рейс. „Трябва да се направи проучване за това, преди някой да го използва в действителната работа по случаи. Трябва да бъде рецензирано. Не съм сигурен какво ниво ще бъде подходящо в бъдеще за използването на AI при действително изясняване на неподвижна снимка или видеоклип, но в този конкретен момент е преждевременно.“
Тим Стело
