Комисарят по поверителността на Онтарио смята, че е необходимо спешно да се справи с рисковете от „Дивия запад“ от AI
Комисарят по информацията и поверителността на Онтарио казва, че изпитва „чувство за спешност“ да действа по отношение на изкуствения интелект, тъй като списъкът й с опасения относно технологията нараства.
Притесненията на Патриша Косейм относно изкуствения интелект включват използването му за разпространение на дезинформация, подвеждане на канадците, утвърждаване на пристрастия и причиняване на дискриминация.
Тя казва, че чат ботовете с изкуствен интелект като ChatGPT могат бързо да превърнат прости подкани от потребителите в подробни текст, също са загрижени.
„Когато подсказвате системи като ChatGPT, това, което получавате обратно, не е организиран, куриран библиотекарски справочен материал“, каза тя в интервю.
„Това, което получавате, е Дивият запад; без да знаем какъв е източникът, без да знаем как е създаден.“
Забележките на Kosseim идват, когато Канада отбелязва Седмицата на поверителността на данните, повод, който съвпада с бързия напредък в AI, който превърна технологията в тема за разговори почти всяка индустрия.
Откакто OpenAI пусна ChatGPT през ноември 2022 г., все по-голям брой компании проучват как могат да внедрят AI, докато регулаторите обмислят как могат да защитят обществеността от рисковете, без да ограничават възможностите.
Постигането на правилния баланс често е в ума на Kosseim, тъй като тя обмисля бързия напредък, постигнат от AI през последната година.Тези напредък е особено очевиден, когато става дума за дълбоки фалшификати - видео, аудио клипове или снимки, където технологията се използва, за да накара някой да изглежда, казва или прави неща, които не е направил.
„Тук теоретиците на конспирацията и другите дезинформатори са твърде готови да се нахвърлят и да запълнят тези информационни празнини с дезинформация ”, каза тя.
Вземете последните национални новини. Изпраща се на вашия имейл, всеки ден.Злонамерените актьори са намерили начини да имитират синтетично гласовете на ръководителя до точния им тон и акцент, като подвеждат служителите да си мислят, че шефът им ги моли да прехвърлят средства към сметката на извършител.
Kosseim каза вирусна фалшива изображения като това, изобразяващо експлозия на Пентагона на САЩ, което предизвика кратък спад на фондовия пазар, и изфабрикуван видеоклип на режисьора Майкъл Мур, изразяващ подкрепата си за кандидата за президент на САЩ Доналд Тръмп, са „не за смях“.
Kosseim смята, че сега е моментът да се обърне внимание на подобни рискове.
„Стотинката падна. Данните засягат всеки един от нас, всяка организация ще използва и интегрира AI в своите процеси. Това е най-фундаменталната промяна на парадигмата на нашето поколение“, каза тя.
„Технологиите не са просто нещо отдалечено, което се случва в стаите или лабораториите на корпоративните технически съвети.“
Това мнение се поддържа и от законодателите. Федералното правителство внесе законопроект през юни, целящ да въведе известна регулация около ИИ през юни.
Очаква се законопроектът да бъде приложен не по-рано от 2025 г. Междувременно федералните ухажваха технологичните компании да се съгласят доброволен кодекс на поведение, който изисква подписалите се да проверяват наборите от данни за потенциални пристрастия и да оценяват всеки AI, който създават, за „потенциални неблагоприятни въздействия“.
След като пое ролята на комисар по информацията и поверителността през 2020 г., Kosseim работи с експерти по поверителност и технологии за създаване на AI рамка за определяне на правила, базирани на риска, за насочване на използването на AI от публичния сектор.
Надеждната рамка за изкуствен интелект на Онтарио включва гарантиране, че AI не се използва тайно чрез споделяне на информация кога и как се внедрява. Другите елементи на рамката включват внушаване на доверие в използването на технологията чрез дефиниране и предотвратяване на нейните рискове и гарантиране, че има начин да се оспорват решенията, взети с AI.
Но Косейм казва, че провинцията трябва да се изравни освен това.
От май тя и комисарят по правата на човека на Онтарио призовават провинцията да разработи и приложи ефективни предпазни огради срещу използването на AI технологии от публичния сектор
Докато първоначалното им искане не очерта точно какви ще бъдат предпазните огради, Косейм каза, че всички механизми, върху които се приземява провинцията, трябва да бъдат „по-всеобхватни, по-стабилни, детайлни“ и „задължителни“.
„Обвързващите правила, подкрепени от правоприлагане, стимулите, от които организациите се нуждаят, за да се съсредоточат върху правилните неща,” каза тя.
„Не става дума да ги наказваме след факта. Става въпрос за насърчаването им да обърнат внимание на предния край.“
Попитана дали смята, че призивите й ще бъдат чути, Kosseim каза: „Аз съм обнадеждена. Мисля, че ще им се наложи.“
