Rite Aid неправомерно използва лицево разпознаване, за да обвини клиенти в кражба от магазини, FTC казва
Федералната търговска комисия в сряда каза, че Rite Aid тайно използва лицево разпознаване на клиенти в продължение на почти десетилетие и неправомерно обвини много в кражба от магазини .
FTC казва, че чернокожите и азиатските клиенти са били по-склонни от белите да бъдат идентифицирани погрешно като хора, които са крали или са се опитали да го направят. Жените са по-склонни да бъдат идентифицирани погрешно, отколкото мъжете.
Според жалбата, Rite Aid е сключила договор с две компании, за да помогне за създаването на база данни с изображения на лица — считани за „представляващи интерес“ тъй като Rite Aid вярва, че са участвали или са се опитали да участват в престъпна дейност в едно от техните търговски обекти – заедно с техните имена и друга информация, като например данни за криминално минало.
Според споразумение, агенцията забрани на Rite Aid да използва тази технология в магазините за пет години. Федералната търговска комисия потвърди пред NBC News, че това е първият път, когато е наредила на организация да спре да използва лицево разпознаване.
„Безразсъдното използване на системи за лицево наблюдение от Rite Aid изправи клиентите му пред унижение и други вреди, а нарушенията на заповедта излагат на риск поверителната информация на потребителите“, каза Самуел Ливайн, директор на Бюрото за защита на потребителите на Федералната търговска комисия, каза в прессъобщение.
Заповедта трябва да бъде одобрена от съд по несъстоятелност, тъй като Rite Aid е подала молба за защита от несъстоятелност през октомври.
В изявлението си агенцията казва, че Rite Aid е започнала да използва „базирана на изкуствен интелект технология за лицево разпознаване“ през 2012 г., за да идентифицира клиенти които може да са крали от магазини или да са участвали в друго нежелано поведение. Тя сключи договор с две компании за разработване на база данни с хора, които са крали или са били обвинени в кражби в миналото.
Тази база данни често се пълни с изображения с ниско качество от охранителни камери на магазини, служители ' телефони или новини, заедно с имена и друга информация, включително данни за криминално минало.
След това системата понякога идентифицира купувачите като хора, които са били обвинени в кражби в други магазини хиляди мили далеч, или е маркирал един човек в десетки магазини в цялата страна.
FTC казва, че системата е генерирала хиляди фалшиви положителни резултати и те са били по-чести в магазини, разположени в квартали с големи черни и азиатските популации, отколкото белите.
"Служителите, действайки по фалшиви положителни сигнали, следваха потребителите из магазините, претърсваха ги, нареждаха им да напуснат, извикаха полицията, за да се изправят срещу или да отстранят потребителите, и ги обвиняваха публично, понякога пред приятели или семейство, в кражба от магазин или други неправомерни действия“, каза FTC.
Клиентите не бяха информирани, че Rite Aid използва технологията, а служителите бяха " обезкуражени" да го разкрият, според агенцията.
Също така се казва, че Rite Aid не са предприели стъпки за смекчаване на вредите, които биха били причинени от фалшиво обвинение на клиенти в кражба от магазини и не са t редовно наблюдава или тества своята система, нито е казал на служителите, че системата може да прави грешки. Когато компанията премина към технология, която позволява на служителите да съобщават за лоши съвпадения и изисква служителите да я използват, тя не успя да гарантира, че служителите спазват тази политика.
През 2010 г. просто две години преди Rite Aid да започне да използва технологията за лицево разпознаване, тя уреди такса от FTC, заявявайки, че не е защитила медицинските и финансови досиета на клиенти и служители. Това доведе до неустойка от 1 милион долара и Федералната търговска комисия казва, че при внедряването на системата за лицево разпознаване и липсата на надзор на нейните доставчици, Rite Aid е нарушила това споразумение.
Агенцията казва, че Rite Aid ще се изисква да внедри "стабилна програма за информационна сигурност, която трябва да бъде наблюдавана от висшите ръководители на компанията."
Марли Джей
