Rite Aid неправомерно използва лицево разпознаване, за да обвини клиенти в кражба от магазини, FTC казва

Федералната комерсиална комисия в сряда сподели, че Rite Aid скрито употребява лицево различаване на клиенти в продължение на съвсем десетилетие и непозволено упрекна доста в кражба от магазини.

FTC споделя, че чернокожите и азиатските клиенти са били по-склонни от белите да бъдат разпознати неправилно като хора, които са крали или са се пробвали да го създадат. Жените са по-склонни да бъдат разпознати неправилно, в сравнение с мъжете.

Според жалбата, Rite Aid е сключила контракт с две компании, с цел да помогне за основаването на база данни с изображения на лица — считани за „ представляващи интерес “ защото Rite Aid има вяра, че са взели участие или са се пробвали да вземат участие в незаконна активност в едно от техните търговски обекти – дружно с техните имена и друга информация, като да вземем за пример данни за престъпно минало.

Според съглашение, организацията забрани на Rite Aid да употребява тази технология в магазините за пет години. Федералната комерсиална комисия удостовери пред NBC News, че това е първият път, когато е наредила на организация да спре да употребява лицево различаване.

„ Безразсъдното потребление на системи за лицево наблюдаване от Rite Aid изправи клиентите му пред оскърбление и други вреди, а нарушаванията на заповедта излагат на риск поверителната информация на потребителите “, каза Самуел Ливайн, шеф на Бюрото за отбрана на потребителите на Федералната комерсиална комисия, сподели в прессъобщение.

Заповедта би трябвало да бъде утвърдена от съд по неплатежоспособност, защото Rite Aid е подала молба за отбрана от неплатежоспособност през октомври.

В изказването си организацията споделя, че Rite Aid е почнала да употребява „ основана на изкуствен интелект технология за лицево различаване “ през 2012 година, с цел да разпознава клиенти които може да са крали от магазини или да са взели участие в друго нежелано държание. Тя подписа контракт с две компании за създаване на база данни с хора, които са крали или са били упрекнати в обири в предишното.

Тази база данни постоянно се цялостни с изображения с ниско качество от охранителни камери на магазини, чиновници ' телефони или вести, дружно с имена и друга информация, в това число данни за престъпно минало.

След това системата от време на време разпознава купувачите като хора, които са били упрекнати в обири в други магазини хиляди благи надалеч, или е маркирал един човек в десетки магазини в цялата страна.

FTC споделя, че системата е генерирала хиляди подправени позитивни резултати и те са били по-чести в магазини, ситуирани в квартали с огромни черни и азиатските популации, в сравнение с белите.

" Служителите, действайки по подправени позитивни сигнали, следваха потребителите из магазините, претърсваха ги, нареждаха им да изоставен, извикаха полицията, с цел да се изправят против или да отстранят потребителите, и ги упрекваха обществено, от време на време пред другари или семейство, в кражба от магазин или други непозволени дейности “, сподели FTC.

Клиентите не бяха осведомени, че Rite Aid употребява технологията, а чиновниците бяха " обезкуражени " да го разкрият, съгласно организацията.

Също по този начин се споделя, че Rite Aid не са подхванали стъпки за намаляване на вредите, които биха били породени от подправено обвиняване на клиенти в кражба от магазини и не са t постоянно следи или тества своята система, нито е споделил на чиновниците, че системата може да прави неточности. Когато компанията мина към технология, която разрешава на чиновниците да оповестяват за неприятни съвпадения и изисква чиновниците да я употребяват, тя не съумя да подсигурява, че чиновниците съблюдават тази политика.

През 2010 година просто две години преди Rite Aid да стартира да употребява технологията за лицево различаване, тя уреди такса от FTC, заявявайки, че не е защитила медицинските и финансови досиета на клиенти и чиновници. Това докара до наказателна клауза от 1 милион $ и Федералната комерсиална комисия споделя, че при внедряването на системата за лицево различаване и неналичието на контрол на нейните снабдители, Rite Aid е нарушила това съглашение.

Агенцията споделя, че Rite Aid ще се изисква да внедри " постоянна стратегия за осведомителна сигурност, която би трябвало да бъде следена от висшите ръководители на компанията. "