Deepfake реклама на Джъстин Трюдо, популяризираща „робот търговец“, беше изтеглена от YouTube

Deepfeke реклама, изобразяваща подобието на министър-председателя Джъстин Трюдо, рекламираща финансов „робот търговец“, беше изтеглена от YouTube.

Google, който притежава онлайн платформа за споделяне на видео и социални медии, каза пред Global News, че също така е спрял акаунтите на рекламодателите, свързани с тези „измами“.

Deepfakes са реалистични, но изфабрикувани изображения, аудио и видео, създадени с помощта на изкуствен интелект. Последният напредък в технологията ги направи по-неразличими от съдържанието, създадено от хора.

„Защитата на нашите потребители е основен приоритет и имаме строги правила, които управляват рекламите на нашата платформа“, каза говорител.

„Тези измами са забранени на нашите платформи и когато открием реклами, които нарушават нашите правила, ние предприемаме незабавни действия, включително премахване на рекламите и спиране на акаунти на рекламодатели, когато е необходимо, както направихме в този случай.“

Global News се натъкна на рекламата deepfake в сряда сутринта. Продължаваща около две минути и половина, рекламата изобразява манипулиран звук на гласа на Трюдо, който подкрепя уебсайт и продукт за „пасивен доход от $10 000 CAD на месец.“

Тя беше изваден от „J.U. Ланц” в Швейцария, показа страницата в YouTube. Рекламата насочваше потребителите към уеб страница за продукта.

Аудиото се възпроизвежда върху визуални елементи на Трюдо, включително нещо, което изглежда е генерирано видео на лицето му, което се опитва физически да имитира звука, който се възпроизвежда.

„Уверен съм в робота търговец и гарантирам финансови резултати на всеки инвеститор“, чува се звукът от гласа на Трюдо.

„Прегърнете бъдещето на създаването на богатство и действайте сега. Посетете нашия уебсайт и започнете процеса на регистрация. Вратата към финансовия просперитет е отворена – готови ли сте да прекрачите през нея? Посетете сайта и се регистрирайте.“

Изображенията и аудиото на Трюдо са фалшиви и манипулирани, каза високопоставен правителствен източник пред Global News.

Джена Гасабех, говорител на Prime Кабинетът на министъра нарече видеото пример за „загрижено и неприемливо“ поведение.

„Видяхме как злонамерени акаунти и потребители могат да разпространяват неистини“, каза Ghassabeh в изявление.

„Количеството измамна, фалшива и подвеждаща информация и акаунти, насочени към избрани служители, е все по-загрижено и неприемливо, особено в ера с дълбоки фалшиви технологии.“

Видеоклипът на Трюдо съответства на „общите тенденции“ на дълбоките фалшиви измами: експерт

Измамата на Трюдо с дълбоки фалшиви измами, която Global Прегледаните новини съвпадат с „общите тенденции“ на други подобни, каза Сузи Дън, асистент по право и технологии в Правното училище на Далхаузи в Шулих.

Дън каза на Global News в имейл в четвъртък, че все още може да е трудно за създаване на визуално дълбоко фалшифициране, което не изглежда бляскаво, но с аудио технологията е много по-убедителна.

„Напоследък има тенденция за фалшиви реклами на знаменитости, като Тейлър Суифт, рекламираща Le Creuset сделки, които всъщност са просто измами. Това изглежда като едно от тях,” каза тя.

Дън каза, че в днешно време е „все по-лесно” да се правят аудио фалшификации.

„Технологията е с отворен код и е лесно достъпна онлайн,” Дън каза.

„Човек без технологични умения може да се затрудни да го разбере, но за някой с основни познания за програмиране, който има достатъчно реални аудио записи на човек, не би било предизвикателство да създайте.”

Дън добави, че съществуват рискове deepfakes да предизвикат политически предизвикателства и объркване сред широката общественост.

„В момента най-честата вредна употреба на deepfakes е измамата на хората на пари или създаване на сексуални дълбоки фалшификати без съгласие на жени“, каза Дън. Италианският премиер Джорджия Мелони наскоро съди двама мъже, за които се твърди, че са направили порнографски дийпфейкове за нея.

„Има рискове дейпфейк да предизвика политически предизвикателства и объркване сред населението като цяло, както се видя с (президента на САЩ Джо) Байдън е фалшифицирал аудио, така че политиците и правителствата ще трябва да бъдат нащрек за тези рискове и да бъдат готови да развенчаят дълбоките фалшификати, когато излязат.“

Къде са канадските закони застанете на deepfakes?

Сегашният канадски закон, уреждащ въпроса, обикновено варира в зависимост от провинцията, каза Дън пред Global News по-рано този месец.

Страната въведе някои наказателни разпоредби срещу споделянето на интимни изображения без нечие съгласие през 2015 г. - което е преди deepfakes да станат публично достъпни, посочи Дън.

И докато deepfakes потенциално могат да бъдат преследвани по наказателни закони за изнудване или тормоз, тя каза, че това никога не е било тествано, добавяйки, че наказателното право засега „е ограничено до действителни, реални изображения на хора“, а не съдържание, създадено от изкуствен интелект.

Някои провинции, като Саскачеван, Ню Брънзуик и остров Принц Едуард, въведоха граждански закони от 2015 г. насам, които се отнасят до променени изображения – които включват deepfakes — позволявайки им да поискат от съдия разпореждане за премахването им.

Манитоба въведе актуализирано законодателство тази седмица, а Британска Колумбия има „бърза“ опция, при която хората могат да поискат интимни (и променени интимни) изображения от тях да бъдат премахнати бързо, вместо да се налага да изчаквате типичните седмици или месеци за съдебна обработка.

Законът за вредите онлайн, който федералното либерално правителство внесе миналия месец, призовава платформите на социалните медии да непрекъснато оценявайте и премахвайте вредно съдържание, включително съдържание, което подбужда към насилие или тероризъм, съдържание, което може да подтикне дете да се самонарани, и интимни изображения, споделени без съгласие, включително дълбоки фалшификации.

Платформите ще трябва да премахнат съдържанието, което те или потребителите флаг в рамките на 24 часа.

Дън нарече случая на италианския премиер „смел“ и каза, че ако случаят на Мелони е успешен, той може да предложи на канадските законодатели и адвокати метод за наказателно преследване на хора, които пускат deepfakes.

— с файлове от Натаниел Доув

Последвайте ни в