Как федералното правителство може да овладее ИИ в областта на правоприлагането
Едно от най-обнадеждаващите предложения, включващи полицейско наблюдение, се появи наскоро от изненадващо място — Федералната служба за управление и бюджет. Службата, която наблюдава изпълнението на политиките на президента, препоръча крайно необходимите ограничения върху използването на изкуствен интелект от федералните агенции, включително правоприлагащите органи.
Работата на службата е похвално, но недостатъците в предложените от него насоки за агенциите все пак биха могли да направят хората уязвими на вреда. Най-важната сред тях е разпоредба, която би позволила на висши длъжностни лица да търсят освобождаване, като аргументират, че ограниченията биха попречили на правоприлагането. Вместо това от тези правоприлагащи органи следва да се изисква да предоставят проверими доказателства, че A.I. инструменти, които те или техните доставчици използват, няма да причинят вреда, да влошат дискриминацията или да нарушат правата на хората.
Като изследователи на алгоритмични инструменти, полиция и конституционно право, сме свидетели на предвидимото и предотвратими вреди от използването на нововъзникващи технологии от правоприлагащите органи. Те включват фалшиви арести и полицейски конфискации, включително семейство, държано под прицела, след като хората са били погрешно обвинени в престъпления поради безотговорното използване на управлявани от AI технологии, включително разпознаване на лица и автоматизирани четци на регистрационни номера.
Разгледайте случаите на Порча Уудръф, Майкъл Оливър и Робърт Джулиан-Борчак Уилямс. Всички са арестувани между 2019 г. и 2023 г., след като са били погрешно идентифицирани от технологията за лицево разпознаване. Тези арести имаха незаличими последици: г-жа Уудръф беше бременна в осмия месец, когато беше лъжливо обвинена в кражба на кола и грабеж; Г-н Уилямс беше арестуван пред очите на жена си и двете си малки дъщери, когато спря на алеята си от работа. В резултат на това г-н Оливър загуби работата си.
Проучване, написано в съавторство с един от нас (д-р Буоламвини), установи, че три комерсиални програми за анализ на лицето от големи технологични компании показват пристрастия както към типа кожа, така и към пола. Колкото по-тъмна е кожата, толкова по-често възникват грешките. Въпросите относно справедливостта и пристрастието продължават да съществуват относно използването на този вид технологии.Грешките се случват, защото правоприлагащите органи внедряват нововъзникващи технологии без прозрачност или съгласие на общността, че те изобщо трябва да се използват , с малко или никакво отчитане на последствията, недостатъчно обучение и неадекватни предпазни огради. Често наборите от данни, които управляват технологиите, са заразени с грешки и расови пристрастия. Обикновено служителите или агенциите не са изправени пред последствия за фалшиви арести, което увеличава вероятността те да продължат.
Указанията на Службата за управление и бюджет, които сега се финализират след период на публичен коментар, ще се прилага за технологии за правоприлагане като лицево разпознаване, четци на регистрационни табели, предсказуеми полицейски инструменти, откриване на огнестрелни изстрели, наблюдение на социални медии и др. Той определя критерии за A.I. технологии, които без предпазни мерки биха могли да изложат на риск безопасността или благосъстоянието на хората или да нарушат техните права. Ако тези предложени „минимални практики“ не бъдат изпълнени, технологиите, които не отговарят на изискванията, ще бъдат забранени след следващия 1 август.
Ето акцентите на предложението: Агенциите трябва да бъдат прозрачни и предоставят публичен списък на случаите, в които A.I. беше използван. Цената и ползата от тези технологии трябва да бъдат оценени, съображение, което изобщо липсваше. Дори ако технологията осигурява реални ползи, рисковете за отделните лица — особено в маргинализираните общности — трябва да бъдат идентифицирани и намалени. Ако рисковете са твърде високи, технологията може да не се използва. Въздействието на управляваните от AI технологии трябва да бъде тествано в реалния свят и непрекъснато да се наблюдава. Агенциите ще трябва да поискат обществен коментар, преди да използват технологиите, включително от засегнатите общности.
Предложените изисквания са сериозни. Те трябваше да са налице, преди органите на реда да започнат да използват тези нововъзникващи технологии. Като се има предвид бързото приемане на тези инструменти, без доказателства за справедливост или ефикасност и с недостатъчно внимание за предотвратяване на грешки, ние напълно очакваме някои A.I. технологиите няма да отговарят на предложените стандарти и използването им ще бъде забранено поради несъответствие.
използвани за извинение на полицията от правна защита за граждански права и срещу дискриминация. „Националната сигурност“ изисква по-ясно определение, за да се предотврати позоваването на изключението без основателна причина или надзор.Накрая, нищо в това предложение не се прилага извън федералните правителствени агенции. ФБР, Администрацията по транспортна сигурност и други федерални агенции агресивно възприемат лицевото разпознаване и други биометрични технологии, които могат да разпознават индивиди по техните уникални физически характеристики. Но същото важи и за държавните и местните агенции, които не попадат в тези насоки. Федералното правителство редовно предлага федерално финансиране като морков, за да спечели спазването на федералните правила от държавните и местните агенции. Трябва да направи същото и тук.
Джой Буоламвини е основател на Алгоритмичната лига на справедливостта, която се стреми да повиши осведомеността за потенциалните вреди от изкуствения интелект, и автор на „Разобличаване на изкуствения интелект: Моята мисия да защитавам това, което е човешко в света на машините. Бари Фридман е професор в Юридическия факултет на Нюйоркския университет и факултетен директор на полицейския проект. Той е автор на „Неоправдано: Полиция без разрешение.“ до редактора. Бихме искали да чуем какво мислите за тази или някоя от нашите статии. Ето няколко . А ето и нашия имейл: .Следвайте секцията за мнение на New York Times относно , , и .
