НЮ ЙОРК (AP) — Порнографски дълбоко фалшиви изображения на Тейлър Суифт циркулират онлайн, превръ

НЮ ЙОРК (AP) — Порнографски надълбоко подправени изображения на Тейлър Суифт циркулират онлайн, трансформирайки певицата в най-известната жертва на камшик, който софтуерните платформи и групите за битка със злоупотребите се борят да поправят.

Фалшиви изображения на Суифт с очевиден полов темперамент и корист започнаха да циркулират необятно тази седмица в обществената медийна платформа X.

Нейната пламенна фенбаза на „ Swifties “ бързо се активизира, започвайки контраатака в платформата, известна преди като Twitter и хаштаг #ProtectTaylorSwift, с цел да го наводните с повече позитивни изображения на поп звездата. Някои споделиха, че оповестяват за сметки, които споделят deepfakes.

Групата за разкриване на deepfake Reality Defender сподели, че е проследила поток от нецензурен материали без единодушие, изобразяващи Swift, изключително на X. Някои изображения също стигнаха до Meta благосъстоятелност на Фейсбук и други обществени медийни платформи.

„ За страдание, те се разпространиха измежду милиони и милиони консуматори, до момента в който някои от тях бяха отстранени “, сподели Мейсън Алън, началник на растежа на Reality Defender.

Изследователите откриха най-малко няколко дузини неповторими изображения, генерирани от AI. Най-широко споделяните бяха свързани с футбола, показващи боядисана или окървавена Суифт, която я обективизира и в някои случаи нанесе насилствена щета на нейната дълбока подправена личност.

Изследователите споделиха, че броят на явните дълбоки подправени изображения е повишен в предишното няколко години, защото технологията, употребена за основаване на такива изображения, стана по-достъпна и по-лесна за потребление. През 2019 година отчет, оповестен от компанията за изкуствен интелект DeepTrace Labs, сподели, че тези изображения са най-вече оръжия против дами. Според него множеството от жертвите са били холивудски артисти и южнокорейски кей-поп артисти.

Британи Спанос, старши публицист в Rolling Stone, който преподава курс за Суифт в Нюйоркския университет, споделя, че почитателите на Суифт са бързи да се активизират в поддръжка на техния реализатор, изключително тези, които одобряват фенството си доста съществено и в обстановки на непозволени дейности.

„ Това може да е голяма договорка, в случай че тя в действителност го преследва в съда “, сподели тя.

Спанос споделя, че казусът с дълбоката подправена порнография съответствува с други, които Суифт е имала в предишното, акцентирайки нейното дело от 2017 година против диджей на радиостанция, за който се твърди, че я е опипвал; правосъдните заседатели присъдиха на Суифт 1 $ обезщетение, сума, която нейният юрист Дъглас Болдридж назова „ индивидуален алегоричен $, чиято стойност е неизмерима за всички дами в тази обстановка “ в разгара на придвижването MeToo. (Искът за 1 $ се трансформира в наклонност по-късно, като в насрещния иск на Гуинет Полтроу от 2023 година против скиор.)

Когато беше потърсен за коментар по отношение на подправените изображения на Суифт, X насочи Асошиейтед прес към обява от нейната сигурност акаунт, който споделя, че компанията строго не разрешава шерването на голи изображения без единодушие на своята платформа. Компанията също по този начин внезапно понижи своите екипи за модериране на наличие, откогато Илон Мъск пое платформата през 2022 година

„ Нашите екипи интензивно отстраняват всички разпознати изображения и подхващат подобаващи дейности против сметките, виновни за публикуването им, “, написа компанията в X post рано сутринта в петък. „ Ние следим от близко обстановката, с цел да подсигуряваме, че всички по-нататъшни нарушавания ще бъдат неотложно адресирани и наличието ще бъде отстранено. “

Междувременно Meta сподели в изказване, че остро осъжда „ наличието, което се появи в разнообразни интернет услуги ” и работи за премахването му.

„ Ние продължаваме да следим нашите платформи за това наличие в нарушаване и ще предприемем подобаващи дейности, в случай че е належащо, ” сподели компанията.

A представител на Swift не отговори незабавно на искане за коментар в петък.

Алън сподели, че откривателите са 90% уверени, че изображенията са основани от дифузионни модели, които са тип генеративен модел на изкуствен интелект, който може основават нови и фотореалистични изображения от писмени инструкции. Най-широко известните са Stable Diffusion, Midjourney и DALL-E на OpenAI. Групата на Алън не се опита да дефинира произхода.

OpenAI сподели, че разполага с защитни ограничения за ограничение на генерирането на нездравословно наличие и „ отменяне на поръчки, които желаят обществена фигура по име, в това число Тейлър Суифт. “

Microsoft, която предлага генератор на изображения, основан частично на DALL-E, сподели в петък, че е в развой на следствие дали неговият инструмент е бил злоупотребен. Подобно на други комерсиални услуги за изкуствен интелект, той сподели, че не разрешава „ интимно наличие за възрастни или без единодушие и всеки повтарящ се опит за основаване на наличие, което опонира на нашите правила, може да докара до загуба на достъп до услугата. “

Попитан за Swift deepfakes в „ NBC Nightly News “, основният изпълнителен шеф на Microsoft Сатя Надела сподели на водещия Лестър Холт в изявление, излъчено във вторник, че има още доста да се направи в определянето на защитните ограничения за ИИ и „ задължава да действаме бързо по този въпрос. ”

„ Абсолютно това е обезпокоително и извънредно и затова да, би трябвало да действаме, ” сподели Надела.

Midjourney, OpenAI и Stable Diffusion-maker Stability AI не направиха t неотложно дава отговор на настояванията за коментар.

Федералните законодатели, които внесоха законопроекти за слагане на повече ограничавания или криминализиране на надълбоко подправеното порно, показаха, че случаят демонстрира за какво Съединени американски щати би трябвало да ползват по-добри отбрани.

„ Години наред дамите са били жертви на дълбоки фалшификации без единодушие, тъй че това, което се случи с Тейлър Суифт, е по-често, в сравнение с множеството хора си дават сметка “, сподели представителят на Съединени американски щати Ивет Д. Кларк, демократ от Ню Йорк, която вкара законодателство, което изисква от създателите да цифров воден знак deepfake наличие.

„ Generative-AI оказва помощ за основаването на по-добри deepfake на дребна част от цената “, сподели Кларк.

Съединени американски щати. Конгресменът Джо Морел, различен демократ от Ню Йорк, който прокарва законопроект, който криминализира шерването на надълбоко подправено порно онлайн, сподели, че случилото се със Суифт е тревожно и става все по-разпространено в интернет.

„ Изображенията може да са подправени, само че въздействието им е доста действително “, сподели Морел в изказване. „ Deepfakes се случват всеки ден на дами на всички места в нашия все по-дигитален свят и е време да им сложим край. “