CBSA планира да използва приложение за лицево разпознаване за проследяване на депортации: документи

Агенцията за гранични служби на Канада възнамерява да внедри приложение, което употребява технология за лицево различаване, с цел да следи хората, за които е подредено да бъдат депортирани от страната.

The приложението за мобилно отчитане ще употребява биометрични данни, с цел да удостовери самоличността на обещано лице и да запише данните за местоположението му, когато употребява приложението, с цел да се записва. Документи, получени посредством достъп до информация, демонстрират, че CBSA е предложила такова приложение още през 2021 година

Говорител удостовери, че тази есен ще бъде пуснато приложение, наречено ReportIn.

Експертите означават голям брой опасения, поставяйки под въпрос валидността на потребителското единодушие и евентуалната загадка по отношение на това по какъв начин технологията взема своите решения.

Всяка година към 2000 души, които са били на които е подредено да изоставен страната, не се появяват, което значи, че CBSA „ би трябвало да изразходва обилни запаси за следствие, локализиране и в някои случаи задържане на тези клиенти “, се споделя в документ от 2021 година

Агенцията показа приложение за смарт телефон като „ идеално решение. “

Получаването на постоянни актуализации посредством приложението по отношение на „ адреса на престояване, заетостта, фамилния статус на обещано лице, наред с други неща, ще разреши на CBSA да има подобаваща информация, която може да се употребява за контакт и наблюдаване на клиента за всевъзможни ранни знаци за противоречие “, се споделя в него.

“Освен това, като се има поради автоматизацията, по-вероятно е клиентът да се почувства зает и да разпознае равнище на видимост, което CBSA има по техния случай. “

Освен това в документа се отбелязва: „ Ако клиент не успее да се яви за унищожаване, информацията, събрана посредством приложението, ще обезпечи положителни следи за следствие за локализиране на клиент. “

Алгоритмична оценка на въздействието на плана — към момента непубликувана на уеб страницата на федералното държавно управление — сподели, че биометричната гласова технология, която CBSA се опита да употребява, последователно се отстранява заради „ несполучлива технология “, и тя създаде Приложението ReportIn да го размени.

В него се споделя, че „ биометричните данни на лицето и местоположението на лицето, предоставени от датчици и/или GPS в мобилното устройство/смартфона “ се записват посредством приложението ReportIn и по-късно се изпращат към задната система на CBSA.

Вземете изключителни Национални вести

След като хората изпратят фотоси, „ логаритъм за съпоставяне на лица “ ще генерира оценка за подобие с референтна фотография.

Ако системата не удостоверява лицево съвпадане, тя задейства развой за чиновниците да проверяват случая.

„ Местоположението на лицата също се събира всякога, когато рапортуват и в случай че лицето не съблюдава техните условия, “, сподели той. В документа се отбелязва, че лицата няма да бъдат „ непрекъснато проследявани “.

Приложението употребява технология от Amazon Web Services. Това е избор, който притегли вниманието на Бренда Макфейл, шеф на образованието на управителни фрагменти в програмата за обществена политика в цифровото общество на университета Макмастър.

Тя сподели, че макар че доста компании за различаване на лица изпращат своите логаритми за тестване в Националния институт на Съединени американски щати на стандартите и технологиите, Amazon в никакъв случай не го е правил непринудено.

Говорител на Amazon Web Services сподели, че неговата технология Amazon Rekognition е „ тестван обширно – в това число от трети страни като Credo AI, компания, която е профилирана в виновния AI, и iBeta Quality Assurance. “

Говорителят добави, че Amazon Rekognition е „ огромна облачна система и затова не могат да се изтеглят, както е разказано в управлението за присъединяване на NIST. “

„ Ето за какво нашата Rekognition Face Liveness вместо това беше изпратена за тестване по отношение на индустриалните стандарти на iBeta Лаборатория ”, която е акредитирана от института като самостоятелна тестова лаборатория, сподели представителят.

В документа на CBSA се споделя, че употребяваният логаритъм ще бъде комерсиална загадка. В обстановка, която може да има последствия, изменящи живота, Макфейл попита дали е „ подходящо да се употребява инструмент, който е предпазен от търговски секрети или частни секрети и който лишава хората от правото да схванат по какъв начин в действителност се вземат решения за тях. “

Кристен Томасен, доцент и катедра по право, роботика и общество в Университета на Уиндзор, сподели, че споменаването на търговски секрети е сигнал, че може да има правни спънки, блокиращи информацията за системата.

От години има опасения по отношение на това, че на хората, които са обект на неточности в системите, е законно неразрешено да получават повече информация заради отбраната на интелектуалната благосъстоятелност, изясни тя.

Говорителят на CBSA Мария Ладусер сподели, че организацията „ създаде това приложение за смарт телефон, с цел да разреши на задгранични жители и непрекъснато пребиваващи, които са предмет на изискванията за използване на имиграционните ограничения, да рапортуват, без да идват персонално на Офисът на CBSA. “

Тя сподели, че организацията „ работи в тесни съвещания “ с Службата на комисаря по поверителността по приложението. „ Регистрирането в ReportIn ще бъде непринудено и потребителите ще би трябвало да дадат единодушието си както за потреблението на приложението, по този начин и за потреблението на тяхната аналогия, с цел да потвърдят самоличността си. “

Петра Молнар, асоцииран шеф на Закона за бежанците на Йоркския университет lab, сподели, че има дисбаланс на властта сред организацията, внедряваща приложението, и хората от приемащия край.

„ Може ли човек в действителност, в действителност да се съгласи в тази обстановка, в която има голяма разлика във властта? “

Ако обещано лице не се съгласи да взе участие, то може да рапортува персонално като опция, сподели Ladouceur.

Thomasen. също по този начин предизвести, че има риск от неточности с технологията за лицево различаване и този риск е по-висок за расови човеци и хора с по-тъмна кожа.

Молнар сподели, че е „ доста тревожно, че има в действителност няма разискване на … въздействието върху правата на индивида в документите. “

Говорителят на CBSA сподели, че Credo AI е прегледал софтуера за пристрастия към демографските групи и е разкрил 99,9 % лицево съвпадане в шест разнообразни демографски групи, добавяйки, че приложението „ ще бъде непрестанно тествано след пускане, с цел да се оцени точността и продуктивността “.

Окончателното решение ще бъде взето от човек, като чиновниците ще следят всички изказвания, само че специалистите означиха, че хората са склонни да се доверяват на преценките, направени от технологиите.

Томасен сподели, че има „ много необятно приета … психическа наклонност хората да се подчиняват на експертния опит на компютърната система “, където компютърните системи се възприемат като по-малко пристрастни или по-точни.