Регулирането на AI и поверителността на канадците след стрелбата в Tumbler Ridge

Регулатори, специалисти по киберсигурност и право се събраха във Виктория този месец, с цел да работят за намиране на салдото сред онлайн сигурността, нововъведенията и отбраната на поверителността на канадците.

Докато десетки семинари, основни бележки и презентации, обхващащи огромно многообразие от тематики, бяха направени на Victoria International Privacy и Security Summit, всеобщата пукотевица от предишния месец в Tumbler Ridge, Британска Колумбия, не беше надалеч от съзнанието на хората.

„ В продължаващия подтекст на полемики за това дали платформите би трябвало да бъдат задължени да разкриват информация, с цел да предотвратят нещастия като Tumbler Ridge, това е безусловно сериозна и навременна тематика “, сподели комисарят по поверителността на Канада, Филип Дюфрен, в главната си записка адрес.

„ Трябва да подсигуряваме, че канадците са предпазени от непосредствени вреди, само че би трябвало — и можем да го създадем — по метод, който пази поверителността на канадците и включва подобаващи прагове “, продължи Дюфрен.

В понеделник фамилията на 12-годишната Мая Гебала заведе цивилен иск против софтуерния колос OpenAI, откакто компанията разкри, че акаунтът на стрелеца в ChatGPT е била инвалидизирана през юни заради „ насилствена активност “, само че не е предизвестила органите на реда.

Семейството на Гебала сподели, че тя е била простреляна в главата и врата, до момента в който се опитвала да заключи вратата на библиотеката в учебното заведение си, с цел да отбрани други възпитаници. Тя остава в Детската болница в Британска Колумбия, където се лекува за съществени пострадвания.

През февруари OpenAI беше извикан в Отава, с цел да разиска опасенията за сигурността и сподели, че ще усъвършенства насочването на полицията и ще повтори практиките за разкриване на извършители. Предстои следствие в B.C. ще прегледа и ролята, която изкуственият разсъдък може да е изиграл в стрелбата.

„ Имаше ли операция? Имаше ли насила? Или просто беше задоволително, с цел да се посее семе? “ Комисарят по информацията и поверителността на Алберта Даян Маклауд е разпитана. „ Не знам, само че това е нещо, което би трябвало да разгледаме доста деликатно. “

Искът също по този начин твърди, че OpenAI не е подхванал стъпки за използване на процедури за инспекция на възрастта или родителско единодушие и упреква компанията, че умишлено и съзнателно е разрешила на ChatGPT да даде псевдо-психологическо лекуване на стрелеца.

Тази притеснителна наклонност беше прегледана от Джим Ричбърг, началник на Fortinet по сигурността, който също управлява кибер интервенции за Централното разследващо ръководство (ЦРУ) в продължение на две десетилетия.

„ За тези от вас, които са родители, може би най-обезпокоителната статистика, която съм виждал, е, че повече от един на всеки седем младежи в Северна Америка приема препоръки за психологично здраве всяка седмица от чатбот на GenAI “, сподели Ричбърг на конференцията. „ Почти никой от родителите им няма никаква визия, че това се случва. “

Как да предпазим децата от онлайн щета, като в същото време запазим поверителността им, е продължаваща и комплицирана полемика, която се преглежда от правни специалисти в цяла Канада.

Получавайте ежедневни национални вести

Получавайте ежедневни вести от Канада във входящата си кутия, тъй че в никакъв случай да не пропускате най-важните истории за деня. Регистрирайте се за всекидневен народен бюлетин. Започнете. Като предоставите своя имейл адрес, вие сте прочели и се съгласявате с Общите условия и Политиката за дискретност на Global News.

„ Основният проблем е дизайнът на тези пространства и логаритмите, които изпращат наличие на деца, което предизвиква дълбока щета “, сподели Емили Лейдлоу, доцент по право в Университета на Калгари и Канадския проучвателен център Катедра по право в региона на киберсигурността.

„ Кривите видеоклипове, наличието за хранителни разстройства и насилието, всичко това основава този тип пространство, което манипулира мислите на децата и няма опция родителите безусловно да схванат, че това се случва “, изясни Лейдлоу.

Свързани вести Още видеоклипове

Лейдлоу сподели след стрелбата в Tumbler Ridge преди този момент препоръчаното законодателство в Канада към този момент може да е остаряло и ще би трябвало да бъде осъвременено.

„ Мисля, че евентуално ще забележим, че Законът за вредите онлайн ще бъде прегледан по друг метод в този момент “, сподели Лейдлоу. „ Тези типове вреди, улеснени от изкуствен интелект, в действителност не съществуват по същия метод и това ви демонстрира какъв брой бързо се развива това пространство. “

„ Мисля, че когато става въпрос за онлайн пространството за вреди и пространството за дискретност, би трябвало да стартираме да мислим за законодателството като за съвсем модулно “, изясни Лейдлоу. " Като градивни детайли, в които можете да мислите посредством проникване на нови типове технологии, нови типове вреди, с цел да можете да реагирате. Трябва да бъде итеративно, с цел да останете настоящи. "

В четвъртък федералното държавно управление внесе нова версия на своето законодателство за " легален достъп ", което ще даде на полицията нови пълномощия да преследва онлайн данни за проверяващи цели, като в същото време адресира някои от опасенията за поверителността, повдигнати от първичната версия на законопроекта.

Новият Законопроектът също по този начин ще разреши на канадската полиция да търси позволение посредством съд, с цел да изисква данни за предаване или информация за клиенти от задгранична компания като Гугъл, Meta или OpenAI. Той обаче не се отнася до апелите да се изисква от фирмите за изкуствен интелект да рапортуват на полицията за тревожно онлайн държание.

„ Искам да изясня какво не е C-22. Не става въпрос за наблюдаване на канадци, което се случва в всекидневието им “, сподели министърът на публичната сигурност Гари Анандасангари. „ Става въпрос за опазване на сигурността на канадците в онлайн пространството. “

 

Докато Отава алармира, че нови разпореждания за изкуствен интелект също са на път, някои специалисти споделиха, че това от дълго време е закъсняло.

„ Ние мислим за идващия кръг от законодателство отдавна към този момент и той просто не идва “, сподели Тереза Скаса, канадска изследователска катедра по осведомително право и политика в Университета на Отава.

„ Това, за което би трябвало да мислим във връзка с промяната, е промяната. Нуждаем се от нея и се нуждаем от нея в този момент “, сподели тя.

Скаса сподели, до момента в който комисарите по поверителността в цяла Канада работят старателно за справяне с новите проблеми, провокирани от новите технологии, в това число AI, те се нуждаят от повече принадлежности, с цел да наложат своите рекомендации и констатации от следствието.

„ Например Федералният комисар по поверителността може да разгласява констатации, само че [ комисар] няма пълномощия да дава нареждания “, сподели тя. „ [Той] не може да постанова санкции или наказания на организации, които отхвърлят да се съобразят с рекомендациите. “

„ Има опция да се обърнете към федералния съд “, изясни Скаса. „ Но още веднъж, това просто го прави по-бавно и по-тромаво, тъй че просто разполага с тези спомагателни принадлежности, които биха създали доста забележителна разлика. “

Офисът на комисаря по поверителността на Канада (OPC) неотдавна пое няколко високопоставени следствия, които включват компании като TikTok, Aylo, която ръководи Pornhub и YouPorn, и настоящо следствие на X Corp., която ръководи платформата за обществени медии X и chatbot Grok.

Dufresne се съгласи, че макар че някои компании са създали усъвършенствания, повече принадлежности биха били добре пристигнали.

„ Ние в действителност сме в внезапен контрастност с сътрудниците от целия свят и притежаването на тази власт би било значимо “, сподели той. „ Не че тези санкции би трябвало да се постановат постоянно, само че съществуването на опция за санкция ще подсигурява, че фирмите ще дойдат на масата и че са подготвени да защитят неприкосновеността на персоналния живот още в самото начало. “

OPC също е в разгара на създаването на Кодекс за дискретност на децата, който се отнася до обработката на персоналната информация на децата, с цел да се подсигурява, че е предпазена и че децата могат да упражняват своята дискретност права.

„ Използвам пълномощията, които имам, и това значи да разработя код, който ще изложи моите упования за платформи и който ще включва размисъл по отношение на гарантирането на възрастта и инспекцията на възрастта “, сподели Дюфрен. „ Как да сме сигурни, че предотвратяваме достъпа до избрани уеб страници за деца? “

Експертите споделиха, че едно продължаващо предизвикателство, което продължава да поражда, когато става въпрос за инспекция на възрастта, е количеството информация, която би трябвало да бъде събрана от платформата, с цел да потвърди възрастта на детето.

„ Когато започнете да вграждате тези защитни ограничения, вие говорите частично за персонални данни и събиране на повече персонални данни и несъмнено, в този момент можем да използваме биометрични данни, които са доста по-чувствителен, каза Скаса.

„ Имате също въпроси за това по какъв начин нашите данни се употребяват за надзор на достъпа ни до технологии и при управление на достъпа ни до технологии, по какъв начин могат да бъдат употребявани и за наблюдаване на потреблението на тези технологии. “

Комисарят по поверителността на Алберта сподели, че това също е основен въпрос по време на взаимното следствие на TikTok, което включва OPC дружно с сътрудници от провинцията в Алберта, Британска Колумбия. и Квебек.

„ В уеб страницата имаше стотици хиляди канадски деца, които бяха на възраст под 13 години “, сподели Маклауд. „ Една от рекомендациите, които направихме, е, че [TikTok] трябваше да внедри подобаваща инспекция на възрастта, само че тогава въпросът е: какъв брой информация би трябвало да съберете, с цел да потвърдите възрастта?

„ Какъв е подобаващият механизъм в границите на тези обществени медийни платформи? “ — попита Маклауд. „ Знаете ли, това е, което ме държи безсънен през нощта. “

Очаква се доста от тези проблеми да бъдат в центъра на вниманието, когато Евън Соломон, федералният министър на изкуствения разсъдък и цифровите нововъведения, посети Алберта идната седмица, в това число първото си публично посещаване в Калгари в сряда.

Нито едно от обвиняванията в делото против OpenAI не е потвърдено в съда.

—С файлове от Ейми Джъд, Шон Бойнтън и Катрин Ъркхарт, Глобални вести

Свързани вести Още видеоклипове