Пазачите на Онтарио пускат стратегия за „отговорно“ използване на изкуствен интелект

Двойка пазачи на Онтарио пускат нов документ, който да управлява виновното потребление на изкуствен интелект в провинцията, надскачайки дългогодишните старания на държавното управление на Ford да сътвори публична рамка за ИИ.

Комисарят по информацията и поверителността на Онтарио (IPC) и комисарят по правата на индивида (OHRC) издадоха взаимен набор от правила, създадени с цел да помогне на държавното управление на Онтарио, по-широкия обществен бранш и частния бранш да дефинират по какъв начин да разположат AI и по кое време да извадят щепсела.

IPC сподели, че нейният офис към този момент е получил редица недоволства и е направил следствия по отношение на възходящата приложимост на AI в провинцията и опасенията, които идват с това.

Студенти в един университет, да вземем за пример, повдигнаха угриженост по отношение на потреблението на онлайн прокторски програмен продукт с задействан AI, с цел да ги следи, до момента в който пишат изпит.

Жалбата провокира следствие и насоки от комисаря по поверителността по отношение на потреблението на AI „ уместно и отговорно “ по метод, който балансира правата на неприкосновеността на персоналния живот на студентите и подсигурява, че информацията е точна.

По сходен метод комисарят по правата на индивида сподели, че нейната работа е загрижена, че без парапети, пристрастията в проучванията, ръководени от AI, могат да доведат до „ непредвидени последствия “ и да повлияят на „ исторически маргинализирани човеци или групи “.

Получавайте изключителни национални вести

„ Искаме хората в Онтарио да се възползват от AI, “ сподели Патриша ДеГуайър, основен комисар по правата на индивида в Онтарио.

„ Но като контрол на обществената правдивост, ние би трябвало да поемем водеща роля в подготовката на жителите и институциите за нововъведенията, наблюдението, използването на тези системи, тъй като една унция предварителна защита е по-добра от половин кг лекуване. “

Докладът гласи, че потреблението на AI както в обществени, по този начин и в частни условия, би трябвало да се управлява от правила: че информацията, получена от нея, е годна и надеждна, че нейното потребление е транспарантно и отговорно и че нейното използване е одобряване на правата на индивида.

Документът гласи, че организациите би трябвало да подложат програмата на AI през оценки за годност и надеждност, преди да бъде разгърната, и че тя би трябвало да бъде постоянно оценена, с цел да удостовери, че резултатите са точни.

Ръководството също по този начин споделя, че институциите би трябвало да подсигуряват, че AI системите не се „ насочват непозволено “ към хора, които вземат участие в публични митинги или обществени придвижвания или по различен метод нарушават правата им по Хартата.

Комисарите също по този начин приканиха за ограничения за сигурност, с цел да се предпазят от неупълномощена персонална информация.

Може би най-важното е, че наблюдаващите споделиха, че AI системите би трябвало да бъдат „ краткотрайно или непрекъснато изключени или изведени от употреба “, в случай че станат рискови и би трябвало да има системи за обзор на негативните въздействия върху човеци или групи.

Комисарите споделиха, че техните насоки са „ незабавни и належащи “, защото регулациите на държавното управление на Ford за ИИ към момента са в ход.

През 2024 година държавното управление одобри Закона за възстановяване на цифровата сигурност и доверие, давайки на провинцията пълномощието да контролира потреблението на изкуствен интелект в обществения бранш.

„ Системите за изкуствен интелект в обществения бранш би трябвало да се употребяват в виновна, транспарантен, виновен и сигурен метод, който е от изгода за хората в Онтарио, като в същото време пази поверителността “, се споделя в законодателството.

Kosseim сподели, че сега държавното управление има единствено „ правила на високо равнище “ като част от рамка за потребление на AI, която се ползва непосредствено към провинциалните министерства. Новите разпореждания ще изяснят разпоредбите за организациите на Crown, лечебните заведения, учебните заведения и по-широкия обществен бранш.

„ Надяваме се, че по-скоро, в сравнение с по-късно, тези разпореждания бъдат признати, тогава ще имаме обвързващи параметри, които да управляват освен провинциалните институции, само че и всички обществени институции в цялата провинция “, сподели Kosseim. с цел да уведоми търсещите работа дали се употребява изкуствен интелект в процеса на наемане.

„ Комисията маркира потреблението на ИИ при наемане на работа като възходящ риск, цитирайки капацитета за непряка дискриминация посредством алгоритмични пристрастия “, сподели ДеГуайър. „ Търсим по-широки защитни ограничения за потреблението на AI при наемане на работа. “

В последна сметка, комисарите подчертаха, че задачата е да се подсигурява отговорно потребление на бързо разрастваща се технология, „ тъй че те да са от изгода за хората, а не да служат за подкопаване на публичното доверие. “