Явни, генерирани от изкуствен интелект изображения на Тейлър Суифт продължават да се разпространяват в X, Instagram и Facebook
Фалшиви, генерирани от изкуствен интелект голи и сексуално внушаващи снимки на Тейлър Суифт продължават да циркулират в платформите на социалните медии, дни след като за първи път се разпространиха в X на Илън Мъск, след като вече стигнаха до Instagram и Facebook.
Основните търсения на ключови думи в тези платформи в понеделник бързо откриха фалшивите изображения на певеца, въпреки някои усилия за ограничаване на тяхното разпространение. В събота X спря името на Swift да работи в неговата функция за търсене, въпреки че алтернативните фрази все още показват снимките. Във вторник сутринта обаче X деблокира търсенията на името на Суифт.
Продължаващото разпространение на сексуално явен deepfakes на Swift във водещи социални медийни платформи подчертава предизвикателството да се спре разпространението на фалшиви изображения, след като бъдат разпространени в интернет – това е трудно, ако не и невъзможно , да ги съдържа. Подобен материал може да бъде създаден и публикуван почти веднага, дори ако оригиналното съдържание е било свалено.
Представител на Swift не отговори веднага на искане за коментар. Нито X, компанията, известна преди като Twitter.
Meta, която притежава както Facebook, така и Instagram, каза в изявление: „Никой никога не трябва да изпитва онлайн злоупотреба като тази.“ В понеделник Meta премахна осем публикации в Instagram и една публикация във Facebook, съдържащи сексуално предполагащи и явни фалшиви изображения на Суифт, които бяха отбелязани от NBC News. Платформата остави генерирана от AI публикация във Facebook, която изобразява Суифт бременна, както и такава, която изобразява Суифт да целува главния треньор на Канзас Сити Чийфс.
„Остро осъждаме съдържанието, което се появи в различни интернет услуги, и работихме бързо, за да го премахнем от нашите“, каза Мета в изявлението. „Ние продължаваме да наблюдаваме нашите платформи за това нарушаващо съдържание съдържание и ще предприемем подходящи действия, ако е необходимо.“
Шепа фалшиви изображения на Swift за първи път започнаха да се разпространяват, след като неидентифициран потребител на X ги публикува на сряда. Тази публикация беше прегледана повече от 27 милиона пъти, преди феновете на Суифт масово да докладват за акаунта, което доведе до неговото спиране.
В събота X временно блокира търсенията за „Тейлър Суифт“ и „Тейлър Суифт AI“. Търсенето на тези термини доведе до зареждане на страница, която никога не върна резултати. Но термини като „T Swift“, „Taylor Swift deepfake“ и „Taylor Swift nude“ все още връщаха резултати от търсенето, включващи тези сексуално явни deepfake на Суифт и други фалшиви изображения, като например това, което я представяше като нацистка.
Изображенията, публикувани за първи път на X миналата седмица, вече са разпространени в други платформи. Търсенето на „Taylor Swift AI“ в Instagram в понеделник извлече сексуално подсказващи и изрични deepfakes на Swift заедно с публикации, говорещи за вирусните deepfakes в първите 100 резултата за публикации. Във Facebook търсенето на „Taylor Swift AI“ изведе на повърхността генерирани от AI изображения на Swift, включително сексуално внушаващите deepfake изображения, както и други, които не са част от първоначалния вирусен инцидент.
Бързото развитие на AI технологията направи някога трудната медийна манипулация лесно достъпна за обществеността, като някои приложения за смартфони вече могат да извършват почти безпроблемна смяна на лица. Усъвършенстваният генериращ AI от големи технологични компании, който е широко достъпен, е в състояние да създава изцяло нови и реалистични изображения въз основа на въведен текст. Swift е само една от многото видни жертви на тази технология.
Сексуално насилие, основано на изображения, насочено към знаменитости, се появи в най-добрите резултати от търсенето с Google и Bing, както и на уебсайтове, които монетизират съдържанието. През последните месеци тийнейджърки говориха за това, че са били жертви на сексуално явен дийпфейк в училище. Една жертва на тийнейджър настоя за федерален закон, който криминализира deepfakes - това ще бъде първият федерален закон, който се занимава с несъгласни сексуално открити deepfakes.
Но фалшивите изображения на Swift се разпространиха по-далеч и предизвикаха повече възмущение от всички други дълбоки фалшификати до момента. Някои американски политици реагираха енергично и прессекретарят на Белия дом Карин Жан-Пиер каза, че Конгресът трябва да предприеме действия.
Кат Тенбардж
