X блокира търсенията на Тейлър Суифт: Какво да знаем за вирусния AI deepfakes
Социалната медийна платформа X блокира търсенията на една от най-популярните личности в света, Тейлър Суифт, след изрични изображения с изкуствен интелект на певицата и текстописец вирусен.
Deepfakes наводниха няколко сайта на социални медии от Reddit до Facebook. Това поднови призивите за укрепване на законодателството относно изкуствения интелект, особено когато се злоупотребява с него за сексуален тормоз.
Ето какво трябва да знаете за епизода на Swift и законността около deepfakes.
Какво се случи с Тейлър Суифт?
В сряда генерирани от изкуствен интелект изображения с явен сексуален характер започнаха да циркулират в сайтовете на социалните медии, особено в X. Едно изображение на мегазвездата беше видяно 47 милиона пъти през приблизително 17-те часа, в които беше на живо в X, преди да бъде премахнато в четвъртък.
Групата за дълбоко откриване на фалшификати Reality Defender каза на агенция Associated Press, че е проследила десетки уникални изображения, които са се разпространили до милиони хора в интернет, преди да бъдат премахнати.
X забрани търсенията за Swift и заявките, свързани със снимките, като вместо това показва съобщение за грешка.
Instagram и Threads, въпреки че позволяват търсения за Swift, показват предупредително съобщение, когато търсят конкретно изображенията.
Какво казват платформи като X и AI сайтове?
В петък акаунтът за безопасност на X публикува изявление, в което се повтаря „политиката на нулева толерантност“ на платформата за публикуване на голи изображения без съгласие. В него се казва, че платформата премахва изображения и предприема действия срещу акаунти, които нарушават правилата.
Meta също публикува изявление, осъждащо съдържанието, добавяйки, че ще „предприеме подходящи действия, ако е необходимо“.
„Ние следим отблизо ситуацията, за да гарантираме, че всички по-нататъшни нарушения ще бъдат незабавно адресирани и съдържанието ще бъде премахнато“, каза компанията.
OpenAI заяви, че има предпазни мерки, за да ограничи генерирането на вредно съдържание на своите платформи като ChatGPT и отхвърля „заявки, които изискват публична фигура по име, включително Тейлър Суифт“.
Microsoft, която предлага генератор на изображения, базиран отчасти на уебсайта DALL-E, каза в петък, че е в процес на разследване дали инструментът е злоупотребяван.
Кейт Вреденбърг, асистент в катедрата по философия, логика и научен метод в Лондонското училище по икономика, посочи, че бизнес моделите на социалните медии често са изградени върху споделяне на съдържание и техният подход обикновено е да почистват след такова събитие .
Swift не е издала изявление относно изображенията. Поп звездата беше видяна в неделя на мач от НФЛ в Съединените щати, аплодирайки приятеля си Травис Келс, докато неговите Канзас Сити Чийфс напредваха към Супербоул.
Публикуването на изображения на голота без съгласие (NCN) е строго забранено в X и имаме политика на нулева толерантност към такова съдържание. Нашите екипи активно премахват всички идентифицирани изображения и предприемат подходящи действия срещу акаунтите, отговорни за публикуването им. Ние сме близо...
— Безопасност (@Safety) 26 януари 2024 г.
Какво е deepfake и как може да се злоупотреби с него?
Суифт не е първата публична личност, която е била насочена с помощта на дълбоки фалшификации, които са форма на „синтетични медии“ или виртуални медии, манипулирани и модифицирани чрез изкуствен интелект.
Изображенията и видеоклиповете могат да бъдат генерирани от нулата чрез захранване на AI инструменти с подкани какво да се покаже. Като алтернатива лицето на някого във видеоклип или изображение може да бъде заменено с нечие друго, като например на публична личност.
Фалшивите видеоклипове обикновено се правят по този начин, за да покажат политици, които подкрепят определени изявления, или хора, участващи в сексуални дейности, в които никога не са участвали. Наскоро в Индия сексуално явни дълбоки фалшиви изображения на актрисата Рашмика Мандана станаха вирусни в социалните медии, като предизвикаха шум. Приложение за игри използва deepfake на иконата на крикет Sachin Tendulkar, за да популяризира своя продукт. А в САЩ кампанията на бившия републикански кандидат за президент Рон ДеСантис произведе дълбоки фейкове, показващи как бившият президент Доналд Тръмп, който води партийната надпревара за президентски номинации, се целува със специалиста по обществено здраве Антъни Фочи, мразена фигура за много консерватори заради застъпничеството му за маски и ваксини по време на пандемията COVID-19.
Докато някои дълбоки фалшификати са лесни за разпознаване поради лошото им качество, други могат да бъдат много по-трудни за разграничаване от истински видеоклип. Няколко генеративни AI инструмента като Midjourney, Deepfakes web и DALL-E са достъпни за потребителите безплатно или срещу ниска такса.
Повече от 96 процента от дълбоките фалшиви изображения в момента онлайн са с порнографски характер и почти всички са насочени към жени, според доклад на Sensity AI, разузнавателна компания, фокусирана върху откриването на дълбоки фалшиви изображения.
Има ли законодателство, което може да защити онлайн потребителите?
Законодателството, насочено конкретно към дълбоките фалшификации, варира според държавата и обикновено варира от изискване за разкриване на дълбоки фалшификации до забрана на съдържание, което е вредно или злонамерено.
Десет щата в САЩ, включително Тексас, Калифорния и Илинойс, имат наказателни закони срещу deepfakes. Законодателите настояват за подобен федерален законопроект или повече ограничения върху инструмента. Конгресменът на САЩ Ивет Кларк, демократ от Ню Йорк, въведе законодателство, което ще изисква от създателите да поставят дигитален воден знак за дълбоко фалшиво съдържание.
Сексуално явните дълбоки фейкове, когато са без съгласие, може да са нарушение на по-общите закони на страната. САЩ не криминализират такива дълбоки фалшификации, но имат щатски и федерални закони, насочени към поверителността, измамите и тормоза.
През 2019 г. Китай въведе закони, задължаващи разкриването на използване на deepfake във видеоклипове и медии. През 2023 г. Обединеното кралство направи споделянето на дълбоко фалшива порнография незаконно като част от своя Закон за онлайн безопасност.
Южна Корея прие закон през 2020 г., който криминализира разпространението на дълбоки фалшификати, причиняващи вреда на обществения интерес, като налага наказания до пет години затвор или глоби, достигащи около 50 милиона вона ($43 000), за да възпре злоупотребата.
В Индия федералното правителство издаде съвет към социалните медии и интернет платформите през декември за защита срещу дълбоки фалшификации, които противоречат на ИТ правилата на Индия. Deepfakes сами по себе си не са незаконни, но в зависимост от съдържанието могат да нарушат някои от правилата на Индия за информационни технологии.
Колебанията около по-строгото регулиране често произтичат от опасения, че то може да задържи технологичния прогрес.
„Това просто предполага, че не можем да направим тези регулаторни или дизайнерски промени, за да намалим поне значително това“, каза Вреденбург. Понякога социалното отношение може също така да бъде, че подобни инциденти са цена, която трябва да се плати за подобни инструменти, което според Вреденбург маргинализира гледната точка на жертвите.
„Това ги представя като малко малцинство от обществото, което може да бъде засегнато за доброто на всички нас“, каза тя. „И това е много неудобна позиция от обществото, в която всички ние да бъдем.“
Как реагира светът?
Белият дом каза, че е „разтревожен“ от изображенията, докато феновете на Суифт – наречени Swifties – се мобилизираха, за да предприемат действия срещу тях.
„Докато компаниите за социални медии вземат свои собствени независими решения относно управлението на съдържанието, ние вярваме, че те играят важна роля в прилагането на собствените си правила, за да предотвратят разпространението на дезинформация и несъгласни, интимни образи на реални хора“, пресата на Белия дом Секретарят Карин Жан-Пиер каза на брифинг за новини.
Законодателите на САЩ също изразиха необходимостта от въвеждане на предпазни мерки.
От сряда феновете на певицата бързо докладваха акаунти и започнаха контраофанзива срещу X с хаштаг #ProtectTaylorSwift, за да го наводнят с повече положителни изображения на Суифт.
„Често разчитаме на потребителите и засегнатите или хора, които са солидарни с тях, за да свършим тежката работа по оказването на натиск върху компаниите“, каза Вреденбург, добавяйки, че не всеки може да мобилизира един и същи вид натиск и така разчитането на възмущението да доведе до трайна промяна все още е повод за безпокойство.
