Канадските агенции за сигурност са призовани да дадат подробности за използването на изкуствен интелект

Федерален съвещателен орган приканва канадските организации за сигурност да разгласяват подробни описания на своите сегашни и планувани използва на системи с изкуствен интелект и софтуерни приложения.

В нов отчет Консултативната група за бистрота на националната сигурност също приканва държавното управление да прегледа изменението на законодателството се преглеждат от Народното събрание, с цел да се обезпечи контрол върху метода, по който федералните организации употребяват AI.

Препоръките са измежду най-новите ограничения, препоръчани от групата, основана през 2019 година за повишение на отчетността и социална информираност по отношение на политиките, стратегиите и дейностите за национална сигурност.

Правителството счита групата за значимо средство за използване на федерален ангажимент от шест точки за по-голяма бистрота във връзка с националната сигурност.

Федерално организациите за разузнаване и сигурност дадоха отговор на последния отчет на групата, като подчертаха значимостта на откритостта, макар че някои показаха, че естеството на тяхната работа лимитира това, което могат да разкрият обществено.

Агенциите за сигурност към този момент употребяват AI за задания, вариращи от превод на документи до разкриване на закани от злотворен програмен продукт. Докладът планува нараснало разчитане на технологията за анализиране на огромни размери текст и изображения, различаване на модели и интерпретиране на трендове и държание.

Тъй като потреблението на AI се уголемява в общността за национална сигурност, „ от значително значение е обществеността да знае повече за задачите и начинанията " на националните гранични, полицейски и шпионски служби, се споделя в отчета.

" Трябва да бъдат проектирани и приложени подобаващи механизми за подсилване на систематичната и самодейна отвореност в границите на държавното управление, като в същото време разрешава по-добър външен контрол и обзор. “

Тъй като държавното управление си сътрудничи с частния бранш по задачите на националната сигурност, „ откритостта и ангажираността “ са решаващи фактори за нововъведения и публично доверие, до момента в който „ секретността поражда съмнение “, се споделя в отчета.

Ключово предизвикателство при обясняването на вътрешната работа на AI на обществеността е „ непрозрачността на логаритмите и моделите за машинно образование “ – така наречен „ черна кутия “, което може да значи, че даже организациите за национална сигурност губят схващане за личните си AI приложения, отбелязва отчетът.

Отава издаде насоки за федерално потребление на изкуствен интелект, в това число условие за осъществяване на логаритъм оценка на въздействието преди основаването на система, която подкрепя или замества преценката на хората, вземащи решения.

Получавайте изключителни национални вести

Той също по този начин вкара Закона за изкуствения разсъдък и данните, който сега е в Народното събрание, с цел да подсигурява отговорно планиране, създаване и внедряване на AI системи.

Въпреки това, законът и нов комисар по AI няма да имат пълномощия над държавни институции като сигурността организации, което подтиква консултативната група да предложи на Отава да прегледа опцията за разширение на оферти закон, с цел да ги обхване.

The Communications Security Establishment, канадската кибершпионска организация, от дълго време е в челните редици на потреблението на науката за данни за пресяване и анализиране на големи количества информация.

Използването на силата на AI не значи унищожаване на хората от процеса, а по-скоро им разрешава да вземат по-добри решения, организацията споделя.

В последния си годишен отчет CSE разказва потреблението на своите високопроизводителни суперкомпютри за образование на нови модели за изкуствен интелект и машинно образование, в това число персонализиран инструмент за превод.

The инструмент, който може да превежда наличие от повече от 100 езика, беше въведен в края на 2022 година и възложен на главните сътрудници на външното разузнаване на Канада през идната година.

The Кибер центърът на CSE е употребявал принадлежности за машинно образование за разкриване на фишинг акции, ориентирани към държавното управление, и за разкриване на подозрителна активност във федерални мрежи и системи.

В отговор на отчета на консултативната група CSE означи другите си старания да способства за разбирането на обществото за изкуствения разсъдък.

Той обаче уточни, че CSE „ се сблъсква с неповторими ограничавания в границите на своя мандат за отбрана на националната сигурност “, което може да сътвори компликации при публикуването детайлности за неговото настоящо и планувано потребление на AI.

„ За да подсигуряваме, че потреблението на AI остава етично, ние създаваме цялостни подходи за ръководство, ръководство и наблюдаване на AI и ще продължим да използваме най-хубавите практики и разговора за подсигуряваме, че нашите насоки отразяват настоящото мислене. “

Канадската разследваща работа за сигурност, която проверява закани, в това число екстремистка активност, шпионаж и задгранична интервенция, приветства прозрачността отчет на групата.

Шпионската работа сподели, че е в ход работа за формализиране на проектите и ръководството по отношение на потреблението на изкуствен интелект, като прозрачността е в основата на всички съображения. Но се прибавя: „ Като се има поради мандатът на CSIS, има значими ограничавания за това какво може да се разисква обществено, с цел да се отбрани целостта на интервенциите, в това число въпроси, свързани с потреблението на AI. “

През 2021 година Даниел Териен, федералният комисар по поверителността по това време, откри, че RCMP е нарушил закона, като е употребявал авангарден програмен продукт за различаване на лица, с цел да събира персонални информация.

Therrien сподели, че е имало съществени и систематични пропуски от страна на RCMP да подсигурява спазването на Закона за отбрана на персоналните данни, преди да събере информация от американската компания Clearview AI.

Технологията на Clearview AI разрешава сбирка от голям брой изображения от разнообразни източници, които биха могли да оказват помощ на полицейските сили, финансовите институции и други клиенти да разпознават хората.

На фона на загрижеността по отношение на Clearview AI, RCMP сътвори Програмата за софтуерно внедряване, с цел да оцени сходството на техниките за събиране със законодателството за дискретност.

Докладът на консултативната група за бистрота приканва Mounties да опишат на обществеността повече за самодейността. „ Ако всички действия, осъществявани по Програмата за включване, са секрети, прозрачността ще продължи да страда. “

RCMP съобщи, че възнамерява скоро да разгласява проект за бистрота, който ще даде общ обзор на основните правила на програмата за включване за отговорно потребление на технологиите, както и детайлности за инструментите, които програмата е оценила.

Маунти споделиха, че също по този начин създават национална политика за потреблението на AI, която ще включва средства за обезпечаване на бистрота по отношение на принадлежности и защитни ограничения.

Консултативната група за бистрота също упреква държавното управление за неналичието на обществено отчитане на напредъка или достиженията на неговия ангажимент за бистрота. Той предлага формален обзор на уговорката с „ обществено докладване на подхванатите начинания, въздействията досега и идните действия. “

Обществената сигурност на Канада сподели, че другите рекомендации в отчета са били споделени със заместник-министъра на отдела и по-широката общественост за национална сигурност, в това число съответните комисии.

Въпреки това отделът не сподели дали е склонен с рекомендациите или даде график за осъществяване тях.