Мъж от Флорида обвинява за неправомерен арест „склонното към грешки“ лицево разпознаване с изкуствен интелект

Когато полицията арестува Ричард Дилън през 2023 година за хипотетичен опит да „ примами дете “ от Макдоналдс в Джаксънвил Бийч, Флорида, той им сподели, че е бил на повече от 300 благи по време на закононарушението. 

Ключовото доказателство, употребявано от полицията, с цел да пробие алибито му: софтуерът за лицево различаване съпостави изображение на обвинения със фотографията на Дилън.

Дилън по-късно беше освободен и в сряда той стана просител в ново дело на ACLU, заведено против полицейското ръководство на Джаксънвил Бийч и други за това, което съгласно него е случай на корист със съпоставянето на изображения, ръководено от AI технология.

„ Полицията остави податлива на неточности система с изкуствен интелект да замести следствие “, настояват те в жалбата си. 

Случаят е най-новият опит за основаване на парапети за мощна нова технология, която полицията от ден на ден употребява за разрешаване на един от най-трудните аспекти на всяко следствие – когато имат облик на обвинен, само че не и самоличността на този човек. Разпознаването на лица е все по-разпространен инструмент за правоприлагане, като обществените бази данни съдържат изображения на 117 милиона американци, съгласно Центъра за дискретност и технологии в юридическия факултет на Джорджтаун. 

Полицията на Джаксънвил Бийч и службата на шерифа в Джаксънвил отхвърлиха коментар. 

Епизодът стартира през ноември 2023 година, когато полицията сподели, че мъж се доближил до 12-годишно дете в Макдоналдс и се опитал да я примами надалеч от родителите й.

Месец по-късно Дилън получил позвъняване от служителя на реда от Джаксънвил Бийч Скот О'Конъл. Той споделя, че по време на диалога О'Конъл " ме е упреквал още веднъж и още веднъж в непоносимо закононарушение, което знаех, че не съм направил ". 

Дилън сподели пред CBS News, че си спомня по какъв начин си е мислил, че „ животът ми е приключил. … AI споделя, че съм направил това, по какъв начин ще потвърдя, че не съм го направил? “ 

По време на телефонния диалог с О'Конъл, Дилън споделя, че е отрекъл да е забъркан и е споделил на полицията за " отличителни белези ", които има от линията на косата до носа си от интервенция за рак на кожата. 

Дилън ни сподели, че откакто видял фотографията си една до друга със фотосите на обвинения, бил шокиран от разликите. „ Белезите напълно не са идентични “, сподели той. „ Това напряко ме шашна. “

След позвъняването Дилън, който живее другаде във Флорида, се свърза с локалното полицейско ръководство, обезпокоен, че е излъган. Той твърди, че както Джаксънвил Бийч, по този начин и локалната му полиция са му споделили, че това е „ ужасна машинация “ и че позвъняването, което е получил, е „ срещу протокола или политиката “.

Но Дилън споделя, че уверенията от двата отдела не са били задоволителни и че „ това ме преследваше с месеци… мислейки си, че когато и да е полицията може да се появи тук и да ме арестува за закононарушение, което не съм направил. “

Осем месеца по-късно, Дилън беше задържан в дома си от заместник-шериф на окръг Лий. Той споделя, че се е молил на служителите на реда, че имат неверния обвинен. В един миг Дилън споделя, че един служител на реда му споделил, че „ в случай че това, което ми казваш, е правилно, имаш пъклен огромен правосъден развой. “

Дилън е държан цяла нощ в пандиза и съгласно делото му е бил „ заставен да вземе пари назаем и да заложи правото на благосъстоятелност върху камиона си, с цел да заплати гаранция “. 

Той споделя, че към момента е изправен пред провокации, макар че всички обвинявания бяха свалени към два месеца по-късно. 

„ Сега всякога, когато отида някъде и желая да поддържам връзка с дете, си мисля, не го прави. Има камери. Това унищожи живота ми, що се отнася до опцията да поддържам връзка с деца “, сподели той. „ Имам възприятието, че хората ме гледат. Имам възприятието, че хората споделят, хей, има оня човек, който беше в новините, спри надалеч от него. “ 

Системата за лицево различаване, която неправилно разпознава Дилън, се назовава Система за съпоставяне и проучване на лицето за разбор или FACESNXT. 

Според делото служител на реда Дейвид Кохил е направил фотоси с мобилен телефон на обвинения от екран на компютър, показващ записа на случая от камерите за наблюдаване. След това фотосите бяха пуснати през FACESNXT от шерифската работа в Джаксънвил. Той откри " 93% съвпадане на чертите на лицето " с Дилън. 

В презентация за образование на FACESNXT от 2015 година са показани съответни образци, с цел да илюстрират по какъв начин наподобяват фотосите с положително по отношение на неприятно качество на изображението. Презентацията включва предизвестие, че рамкирането „ отвън оста “ и „ неравномерното осветяване “ в фотосите може да докара до проба с неприятно качество за софтуера. Дилън твърди в своя иск, че употребяваните изображения са били „ отчасти засенчени и отвън оста “.

Нейтън Фрийд Уеслър, заместник-директор на Проекта за тирада, дискретност и технологии на ACLU, предизвестява, че постоянно полицията бърка „ съвпадане “, направено от софтуера, с удостоверение. 

Той сподели пред CBS News, че производителите на такава технология и други полицейски ръководства са обяснили, че „ тази технология не основава и не може да създава съвпадения “. Вместо това той изготвя лист с вероятни следи, оставяйки правоприлагащите органи да проведат свое лично без значение следствие.

Случаят на Дилън е единствено един от повече от дузина обществено известни случаи, при които е осъществен подправен арест благодарение на AI различаване на лица. Уеслър споделя, че карцерът на Дилън е доказателство, че „ тази технология е фундаментално рискова. “

В жалбата се твърди, че полицията на Джаксънвил Бийч в никакъв случай не е „ показала никакви фотоси на жертвата “ и вместо това е употребила идентификацията на фотосесията от чиновник в Макдоналдс, който не е бил свидетел на взаимоотношението на обвинения с малолетния. 

Сега Дилън се надява, че неговият случай ще му донесе правдивост и ще увеличи осведомеността. Той сподели пред CBS News: „ Надявам се, че резултатът от това е да попреча на други хора да преминат през контузията, през която аз прекосих. “