Не е само Тейлър Суифт: генерираното от AI порно е насочено към жени и деца по целия свят
Разпространението на явни и порнографски снимки на мегазвездата Тейлър Суифт тази седмица хвърли светлина върху способността на изкуствения интелект да създава убедително реални, вредни – и фалшиви – изображения.
Но концепцията далеч не е нова: хората са въоръжили този тип технология срещу жени и момичета от години. И с възхода и увеличения достъп до AI инструменти, експертите казват, че е на път да стане много по-лошо за всички - от деца в училищна възраст до възрастни.
Вече някои гимназисти по света, от Ню Джърси до Испания, съобщиха, че лицата им са били манипулирани от AI и споделени онлайн от съученици. Междувременно млада, добре позната стриймърка на Twitch откри, че нейното подобие се използва във фалшиво, изрично порнографско видео, което бързо се разпространи в общността на игрите.
„Не са само известни личности (насочени)“, каза Даниел Ситрон, професор в Юридическия факултет на Университета на Вирджиния. „Това са обикновени хора. Това са медицински сестри, студенти по изкуство и право, учители и журналисти. Виждали сме истории за това как това се отразява на гимназистите и хората в армията. Това засяга всички.“
Но докато практиката не е нова, насочването към Swift може да привлече повече внимание към нарастващите проблеми около генерираните от AI изображения. Нейният огромен контингент от верни „Swifties“ изразиха възмущението си в социалните медии тази седмица, извеждайки проблема на преден план. През 2022 г. сривът на Ticketmaster преди нейния концерт на Eras Tour предизвика гняв онлайн, което доведе до няколко законодателни усилия за премахване на неблагоприятните за потребителите политики за билети.
„Това е интересен момент, защото Тейлър Суифт е толкова обичана“, каза Ситрон. „Хората може да обръщат повече внимание, защото това е някой, който обикновено се възхищава, който има културна сила. … Това е момент за равносметка.“
„Нечестиви причини без достатъчно мантинели“
Фалшивите изображения на Тейлър Суифт предимно се разпространяват в сайта на социалните медии X, известен преди като Twitter. Снимките – които показват певицата в сексуални и експлицитни пози – бяха гледани десетки милиони пъти, преди да бъдат премахнати от социалните платформи. Но нищо в интернет наистина не е изчезнало завинаги и те несъмнено ще продължат да се споделят в други, по-малко регулирани канали.
Въпреки че се разпространиха категорични предупреждения за това как подвеждащи изображения и видеоклипове, генерирани от изкуствен интелект, могат да бъдат използвани за провал на президентските избори и за насърчаване на усилията за дезинформация, имаше по-малко публичен дискурс за това как лицата на жените са били манипулирани, без тяхното съгласие, в често агресивни порнографски видеоклипове и снимки.
Нарастващата тенденция е AI еквивалент на практика, известна като „порно за отмъщение“. И става все по-трудно да се определи дали снимките и видеоклиповете са автентични.
Различното този път обаче е, че лоялната фен база на Swift се обедини заедно, за да използва инструментите за отчитане, за да премахне ефективно публикациите. „Толкова много хора са ангажирани с това усилие, но повечето жертви имат само себе си“, каза Ситрон.
Въпреки че според съобщенията са били необходими 17 часа на X да свали снимките, много манипулирани изображения остават публикувани в сайтовете на социалните медии. Според Бен Декър, който ръководи Memetica, агенция за дигитални разследвания, компаниите за социални медии „всъщност нямат ефективни планове за задължително наблюдение на съдържанието“.
Подобно на повечето големи социални медийни платформи, политиките на X забраняват споделянето на „синтетични, манипулирани или извън контекста медии, които могат да заблудят или объркат хората и да доведат до вреда“. Но в същото време X до голяма степен изкорми своя екип за модериране на съдържание и разчита на автоматизирани системи и отчитане на потребителите. (В ЕС в момента X се разследва относно практиките му за модериране на съдържание).
Компанията не отговори на искането на CNN за коментар.
Други социални медийни компании също намалиха своите екипи за модериране на съдържание. Meta, например, направи съкращения в своите екипи, които се справят с дезинформацията и координира кампании за тролове и тормоз в своите платформи, казаха хора с пряко познаване на ситуацията CNN, пораждайки безпокойство преди ключовите избори през 2024 г. в САЩ и по света.
Декър каза, че това, което се е случило със Суифт, е „основен пример за начините, по които AI се отприщва поради много престъпни причини, без да има достатъчно парапети, за да защити обществения площад“.
На въпрос за изображенията в петък прессекретарят на Белия дом Карин Жан-Пиер каза: „Това е тревожно. Разтревожени сме от докладите за разпространението на изображения, които току-що изложихте – фалшиви изображения, по-точно, и това е тревожно.“
Нарастваща тенденция
Въпреки че тази технология е налична от известно време, сега тя отново привлича вниманието заради обидните снимки на Суифт.
Миналата година ученичка от гимназията в Ню Джърси стартира кампания за федерално законодателство за справяне с генерираните от изкуствен интелект порнографски изображения, след като каза, че снимки на нейни и 30 други съученички са били манипулирани и вероятно споделяни онлайн.
Франческа Мани, ученичка в гимназията Westfield, изрази разочарование от липсата на правни средства за защита на жертвите на порнография, генерирана от AI. Майка й каза пред CNN, че изглежда „момче или няколко момчета“ в общността са създали изображенията без съгласието на момичетата.
„Всички училищни квартали се борят с предизвикателствата и въздействието на изкуствения интелект и други технологии, достъпни за учениците по всяко време и навсякъде“, каза директорът на Westfield д-р Реймънд Гонзалес пред CNN в изявление по това време.
През февруари 2023 г. подобен проблем засегна общността на игрите, когато високопоставен стриймър на видеоигри от мъжки пол в популярната платформа Twitch беше хванат да гледа дълбоко фалшиви видеоклипове на някои от колежките си от Twitch стрийминг. Стриймърът на Twitch „Sweet Anita“ по-късно каза пред CNN, че е „много, много сюрреалистично да гледаш как правиш нещо, което никога не си правил“.
Възходът и достъпът до инструменти, генерирани от AI, улесни всеки да създава и тези видове изображения и видеоклипове. И също така съществува много по-широк свят от немодерирани небезопасни за работа AI модели в платформи с отворен код, според Декър.
Премахването на това остава трудно. В момента девет американски щата имат закони срещу създаването или споделянето на дълбоки фалшиви снимки без съгласие, синтетични изображения, създадени, за да имитират нечия прилика, но нито един не съществува на федерално ниво. Много експерти призовават за промени в раздел 230 от Закона за благоприличие в комуникациите, който защитава онлайн платформите от отговорност за генерирано от потребителите съдържание.
„Не можете да го накажете според законите за детската порнография … и е различно в смисъл, че не се случва сексуално насилие над деца“, каза Ситрон. „Но унижението и усещането да бъдеш превърнат в обект, когато другите хора те виждат
