Явни Deepfake изображения на Тейлър Суифт избягват предпазните мерки и Swamp Social Media

Фалшиви, полово очевиден изображения на Тейлър Суифт, евентуално генерирани от изкуствен интелект, се разпространиха бързо в платформите на обществените медии тази седмица, смущавайки почитателите които са ги видели и възобновяват апелите на законодателите за отбрана на дамите и за унищожаване на платформите и технологиите, които популяризират такива изображения.

Едно изображение, споделено от консуматор на X, някогашен Twitter, е забелязан 47 милиона пъти, преди акаунтът да бъде спрян в четвъртък. X спря няколко акаунта, които разгласиха подправените изображения на госпожа Суифт, само че изображенията бяха споделени в други обществени медийни платформи и продължиха да се популяризират макар напъните на тези компании да ги отстранен.

Докато X сподели, че работи за премахването на изображенията, почитателите на поп суперзвездата наводниха платформата в символ на митинг. Те разгласиха свързани основни думи, дружно с изречението „ Защитете Тейлър Суифт “, в опит да заглушат експлицитните изображения и да ги създадат по-трудни за намиране.

Reality Defender, компания за киберсигурност, фокусирана върху откриването на AI, откри, че изображенията евентуално са основани благодарение на дифузионен модел, ръководена от AI технология, налична посредством повече от 100 000 приложения и обществено налични модели, сподели Бен Колман, съосновател и основен изпълнителен шеф на компанията.

Изследователите в този момент се притесняват, че deepfakes се трансформират в мощна дезинформационна мощ, позволяваща на ежедневните интернет консуматори да основават голи изображения без единодушие или неуместни портрети на политически претенденти. Изкуственият разсъдък беше употребен за основаване на подправени автоматизирани позвънявания на президента Байдън по време на първичните избори в Ню Хемпшир, а госпожа Суифт беше показана този месец в дълбоки подправени реклами, разпродаващи съдове за готвене.

„ Винаги е било мрачно прикрито течение на интернет, порнография без единодушие от разнообразни типове “, сподели Орен Ециони, професор по компютърни науки във Вашингтонския университет, който работи върху откриването на дълбоки имитации. „ Сега това е нов негов вариант, който е изключително нездравословен. “

„ Ще забележим цунами от тези експлицитни изображения, генерирани от AI. Хората, които са основали това, виждат това като триумф “, сподели господин Ециони.

X сподели, че има политика на нулева приемливост към наличието. „ Нашите екипи интензивно отстраняват всички разпознати изображения и подхващат подобаващи дейности против сметките, виновни за публикуването им “, сподели представител в изказване. „ Ние следим от близко обстановката, с цел да подсигуряваме, че всички по-нататъшни нарушавания ще бъдат неотложно адресирани и наличието е отстранено. “

Някои щати са лимитирали порнографските и политическите дълбоки фалшификации. Но рестриктивните мерки не са оказали мощно влияние и няма федерални разпореждания за сходни дълбоки имитации, сподели господин Колман. Платформите се пробваха да се оправят с дълбоките фалшификации, като желаеха от потребителите да ги рапортуват, само че този способ не проработи, добави той. Докато бъдат маркирани, милиони консуматори към този момент са ги видели.

„ Пастата за зъби към този момент е извадена от тубата “, сподели той.

госпожа Публицистът на Суифт, Трий Пейн, не отговори неотложно на настояванията за коментар късно в четвъртък.

Дълбоките имитации на госпожа Суифт провокираха нови апели за деяние от законодателите. Конгресменът Джо Морел, демократ от Ню Йорк, който показа законопроект предходната година, който ще направи шерването на такива изображения федерално закононарушение, сподели на X, че разпространяването на изображенията е „ ужасяващо “, добавяйки: „ Случва се на дами на всички места, всеки ден. ”

„ Многократно съм предупреждавал, че AI може да се употребява за генериране на интимни облици без единодушие “, сенатор Марк Уорнър, демократ от Вирджиния и ръководител на Сената Комитетът по разузнаването, сподели за изображенията на X. „ Това е плачевна обстановка. “

Представителят Ивет Д. Кларк, демократ от Ню Йорк, сподели, че напредъкът в изкуствените интелигентността направи основаването на deepfakes по-лесно и по-евтино.

„ Това, което се случи с Тейлър Суифт, не е нищо ново “, сподели тя.