Порнографските дълбоки фалшификати на Тейлър Суифт предизвикват призиви за ново законодателство за ИИ
Защо търсенията за най-известната поп звезда в света са блокирани в X и как проблемът предизвиква шум направо в Белия дом?
Социалната медийна платформа X временно блокира името на Тейлър Суифт от търсене, след като генерираните от AI deepfake порнографски изображения на певицата станаха вирусни миналата седмица.
Една фалшива снимка на Суифт, публикувана на платформата е видяна 47 милиона пъти, преди акаунтът да бъде спрян.
Материалът е споделен десетки хиляди пъти, преди екипът за сигурност на X да отговори: „Имаме политика на нулева толерантност към такова съдържание. Нашите екипи активно премахват всички идентифицирани изображения и предприемат подходящи действия срещу акаунтите, отговорни за публикуването им.“
Сега търсенето на името на Swift и „AI Taylor Swift“ на X ще доведе потребителите до страница, която гласи : "Нещо се обърка. Опитайте да презаредите.“
Ръководителят на бизнес операциите на X Джо Бенарок каза в изявление за Variety: „Това е временно действие и се извършва с много предпазливост, тъй като даваме приоритет на безопасността по този въпрос.“
Междувременно Meta каза в изявление, че остро осъжда „съдържанието, което се появява в различни интернет услуги“ и работи за премахването му.
„Продължаваме да наблюдаваме нашите платформи за това нарушение съдържание и ще предприеме подходящи действия, ако е необходимо“, каза компанията.
Още един ден в интернет, но това е Swift, за който говорим, така че нещата ескалираха бързо...
Бърза мобилизация
"Swifties" на певицата се мобилизира чрез започване на контраофанзива в платформата, известна преди като Twitter, и хаштаг #ProtectTaylorSwift, за да я наводнят с повече положителни изображения на поп звездата .
И тогава ставката беше вдигната...
Белият дом се намеси, наричайки инцидента „тревожен“.
Прессекретарят на Белия дом Карин Жан-Пиер каза чрез изявление: „Знаем, че непропорционалното прилагане засяга непропорционално жените и те също засягат момичетата, за съжаление, които са преобладаващите мишени.“
Жан-Пиер дори предложи да има законодателство, което да се справя със злоупотребата с AI в социалните медии.
Само ако този вид бърза реакция беше приложена към не-милиардери с подобни оплаквания от deepfakes, злоупотребяващо фалшифициране изображения, порно за отмъщение и други форми на вреден онлайн тормоз...
Все пак, напредвайте там, където можете да го постигнете, и инцидентът изглежда разтърси нещата донякъде. Напомняме, че понастоящем в САЩ няма федерални закони срещу споделянето или създаването на дълбоки фалшиви изображения – въпреки някои действия на държавно ниво за справяне с проблема.
Недостатъците на генеративния AI
Федералните законодатели, които внесоха законопроекти за поставяне на повече ограничения или криминализиране на дълбоко фалшивото порно, посочиха, че инцидентът показва защо САЩ трябва да прилагат по-добри защити.
„От години, жените са били жертви на дълбоки фалшификации без съгласие, така че това, което се случи с Тейлър Суифт, е по-често срещано, отколкото повечето хора си дават сметка“, каза американският представител Ивет Д. Кларк, демократ от Ню Йорк, която въведе законодателство, което ще изисква от творците да поставят дигитален воден знак на дълбоко фалшиво съдържание .
„Generative-AI помага за създаването на по-добри дълбоки фалшификации на малка част от цената“, каза Кларк.
Репутаторът от САЩ Джо Морел, друг демократ от Ню Йорк, който прокарва законопроект, криминализира споделянето на дълбоко фалшиво порно онлайн, каза, че случилото се със Суифт е обезпокоително и става все по-разпространено в интернет.
„Изображенията може да са фалшиви, но въздействието им е много реално“, каза Морел в изявление. „Deepfakes се случват всеки ден на жени навсякъде в нашия все по-дигитален свят и е време да им сложим край.“
Deepfakes използват изкуствен интелект, за да направят видеоклип на някого, като манипулират лицето или тялото му.
Изследователите казаха, че броят на изричните дълбоки фалшификати е нараснал през последните няколко години, тъй като технологията, използвана за създаване на такива изображения, е станала по-достъпна и по-лесна за използване. През 2019 г. доклад, публикуван от фирмата за изкуствен интелект DeepTrace Labs, показа, че тези изображения са предимно оръжия срещу жени. Според него повечето от жертвите са били холивудски актьори и южнокорейски кей-поп певци.
Британи Спанос, старши писател в Rolling Stone, който преподава курс по Суифт в Нюйоркския университет, каза за неотдавнашния Инцидент със Суифт: „Това може да е огромна сделка, ако тя наистина го преследва в съда.“
Спанос казва, че проблемът с дълбоката фалшива порнография е в съответствие с други проблеми, които Суифт е имала в миналото, посочвайки делото си срещу 2017 г. диджей на радиостанция, за който се твърди, че я е опипвал; съдебните заседатели присъдиха на Суифт $1 обезщетение, сума, която нейният адвокат Дъглас Болдридж нарече „единичен символичен долар, чиято стойност е неизмерима за всички жени в тази ситуация“ в разгара на движението MeToo.
Допълнителни източници • AP, Variety, Rolling Stone
