Притесненията растат като генерирани от AI видеоклипове разпространяват омраза, расизъм онлайн: „Без правила за безопасност“

В началото наподобява, че е особен видеоклип, генериран от изкуствен интелект, с цел да накара хората да се смеят.

В него окосмен огромен крайник, облечен в каубойска шапка и жилетка, която се раздава с американския байрак, седи зад кормилото на пикап.

" Ние отиваме през днешния ден на LGBT Parade. „ Ще ви харесат. “

Нещата по-късно направете принудителен и объркващ завой, до момента в който Bigfoot минава през навалица от крещящи хора, някои от тях държат дъгови флагове.

Клипът, оповестен през юни на AmericanBigfoot Tiktok, е събрал повече от 360 000 гледания и стотици, сходни на Tiktok. flooded social media platforms, openly promoting violence and spreading hate against members of LGBTQ+, Jewish, Muslim and other minority groups.

While the origin of most of those videos is unclear, their spread on social media is sparking outrage and concern among experts and advocates who say Canadian regulations cannot keep up with the pace of hateful AI-generated content, nor adequately address the risks it poses to public safety.

Egale Canada, an LGBTQ+ advocacy organization, says the community is worried about the rise of transphobic and homophobic misinformation content on social media.

“These AI tools are being weaponized to dehumanize and discredit trans and gender diverse people and existing digital safety laws are failing to address the scale and speed of this new threat, ” executive director Helen Kennedy said in a Изявление.

Бързо разрастващата се технология даде на неприятните участници мощен инструмент за разпространяване на дезинформация и ненавист, като транссексуалните човеци са ориентирани несъразмерно, сподели Кенеди.

" От Deepfake Video to algorithm, задвижван от ненавист, " от Deepfake Videos-Те за алгоритм, задвижван от ненавист, от вредите, от които е Algorify-Кенеди. Реално. ”

LGBTQ+ общността не е единствената цел, съобщи Евън Балгорд, изпълнителен шеф на канадската мрежа за битка с омразата. Исламофобски, антисемитско и анти-южно азиатско наличие, направено с генеративни AI принадлежности, също е необятно публикувано в обществените медии, сподели той.

„ Когато основават средата, в която има доста възможност за празнуване на тези групи, това прави принуждение към тези групи, които се случват по-на улицата по-вероятно “, това е било по-скоро на телефонно изявление на Балгорд. В AI направиха нещата още по-сложни, той сподели.

Вземете ежедневни национални вести

Слайн сподели, че държавното управление би трябвало да прегледа различен взор върху законодателството в границите на вреди и да вкара още веднъж законопроекта „ незабавно “.

„ Мисля Просто го въведете още веднъж. Освен всичко друго, законопроектът има за цел да държи платформите за обществени медии виновни за понижаване на експозицията на нездравословно наличие.

Говорителят на новосъздаденото Министерство на изкуствения разсъдък и цифровите нововъведения съобщи, че държавното управление приема въпроса за генерираното от AI омразно наличие, изключително когато е ориентирано към уязвимите малцинствени групи. Целете да се оправи с опасността от генеративен ИИ, когато са проектирани.

„ Има действителна потребност да разберем по какъв начин се употребяват и злоупотребяват с инструментите на AI - и по какъв начин можем да укрепим парапетите “, споделя тя в изказване. „ Тази работа продължава. “

Работата включва обзор на съществуващите рамки, наблюдаване на решенията на съда „ и деликатно слушане както на правни, по този начин и на софтуерни специалисти “, сподели Оулис. Тя добави, че държавното управление на министър-председателя Марк Карни се ангажира да извърши разпространяването на безконсенсуална полова дълбочина на престъпно закононарушение.

„ В това бързо движещо се пространство имаме вяра, че е по-добре да реализираме контролиране, в сравнение с да се движи прекомерно бързо и да се обърка “, сподели тя, отбелязвайки, че Отава се стреми да се научи от Европейския съюз, и Обединеното кралство. Регулирането на AI и обезпечаването на цифрова сигурност, само че макар че е на „ напред във времето “, има възприятие, че би трябвало да се направи повече.

Експертите споделят, че регулирането на наличието, публикувано от колосите на обществените медии, е изключително мъчно, защото тези компании не са канадски.

Друг усложняващ фактор е актуалният политически климат на юг от границата, където американските софтуерни компании се следят, че се виждат понижени регулации, а тези компании не ги вършат по -малко от американските софтуерни компании, които се отнасят по -малко от американските софтуерни компании, са изключително сложни, защото тези компании са канадски. Отговорен “, сподели Слеййн.

Въпреки че генеративният AI съществува от няколко години, през последните месеци се наблюдава„ пробив “, което улеснява основаването на качествени видеоклипове, употребявайки принадлежности, които са най -вече налични за безвъзмездни или на доста ниска цена, съобщи Питър Люис, Канада за проучвателен ръководител на благонадежден изкуствен интелект.

„ „ Трябва да кажа, че е в действителност наличен за съвсем всевъзможни хора с малко, сподели Питър Люис, наличен за изследователския ръководител на Канада вдясно с благонадежден изкуствен интелект.

„ „ Пачът би трябвало да каже, че е в действителност налично за достъп до всевъзможни хора, а достъпът до малко благонадежден надежден. Сега “, сподели той.

Люис, който също е помощник в университета в Онтарио Техни Добавяйки „ не е ясно наложително, че AI системата има способността да разсъждава върху това, което е основало. “

Люис сподели, че въпреки да не е юридически специалист, той има вяра, че съществуващите закони могат да бъдат употребявани за битка с прославянето на онлайн ненавист и принуждение в видеоклиповете на AmericanBigfoot.

, само че той прибавя бързото развиване на генеративното и отстъпването на нови софтуерни. collaboration between governments, consumers, advocates, social platforms and AI app developers to address the problem.

“If these things are being uploaded…we need really robust responsive flagging mechanisms to be able to get these things off the internet as quickly as possible, ” he said.

Lewis said using AI tools to detect and flag such videos helps, but it won’t resolve the issue.

" Поради естеството на метода, по който работят тези AI системи, те са евентуални, тъй че те не улавят всичко. "