Не е само Тейлър Суифт: генерираното от AI порно е насочено към жени и деца по целия свят

Разпространението на очевидни и нецензурен фотоси на мегазвездата Тейлър Суифт тази седмица хвърли светлина върху способността на изкуствения разсъдък да основава безапелационно действителни, нездравословни – и подправени – изображения.

Но концепцията надалеч не е нова: хората са въоръжили този вид технология против дами и девойки от години. И с възхода и нараствания достъп до AI принадлежности, специалистите споделят, че е на път да стане доста по-лошо за всички - от деца в учебна възраст до възрастни.

Вече някои гимназисти по света, от Ню Джърси до Испания, оповестиха, че лицата им са били манипулирани от AI и споделени онлайн от съученици. Междувременно млада, добре позната стриймърка на Twitch откри, че нейното сходство се употребява във подправено, категорично порнографско видео, което бързо се популяризира в общността на игрите.

„ Не са единствено известни персони (насочени) “, сподели Даниел Ситрон, професор в Юридическия факултет на Университета на Вирджиния. „ Това са елементарни хора. Това са медицински сестри, студенти по изкуство и право, учители и публицисти. Виждали сме истории за това по какъв начин това се отразява на гимназистите и хората в армията. Това визира всички. “

Но до момента в който практиката не е нова, насочването към Swift може да притегли повече внимание към възходящите проблеми към генерираните от AI изображения. Нейният голям контингент от правилни „ Swifties “ показаха възмущението си в обществените медии тази седмица, извеждайки казуса на напред във времето. През 2022 година сривът на Ticketmaster преди нейния концерт на Eras Tour провокира яд онлайн, което докара до няколко законодателни старания за унищожаване на неподходящите за потребителите политики за билети.

„ Това е забавен миг, тъй като Тейлър Суифт е толкоз обичана “, сподели Ситрон. „ Хората може да обръщат повече внимание, тъй като това е някой, който нормално се възхищава, който има културна мощ. … Това е миг за равносметка. “

„ Нечестиви аргументи без задоволително мантинели “

Фалшивите изображения на Тейлър Суифт най-вече се популяризират в уеб страницата на обществените медии X, прочут преди като Twitter. Снимките – които демонстрират певицата в полови и експлицитни пози – бяха гледани десетки милиони пъти, преди да бъдат отстранени от обществените платформи. Но нищо в интернет в действителност не е изчезнало вечно и те безспорно ще продължат да се споделят в други, по-малко контролирани канали.

Въпреки че се разпространиха безапелационни предизвестия за това по какъв начин подвеждащи изображения и видеоклипове, генерирани от изкуствен интелект, могат да бъдат употребявани за неуспех на президентските избори и за поощряване на напъните за дезинформация, имаше по-малко обществен дискурс за това по какъв начин лицата на дамите са били манипулирани, без тяхното единодушие, в постоянно нападателни нецензурен видеоклипове и фотоси.

Нарастващата наклонност е AI еквивалент на процедура, известна като „ порно за възмездие “. И става все по-трудно да се дефинира дали фотосите и видеоклиповете са достоверни.

Различното този път обаче е, че лоялната почитател база на Swift се сплоти дружно, с цел да употребява инструментите за отчитане, с цел да отстрани дейно изявленията. „ Толкова доста хора са ангажирани с това изпитание, само че множеството жертви имат единствено себе си “, сподели Ситрон.

Въпреки че съгласно известията са били нужни 17 часа на X да смъкна фотосите, доста манипулирани изображения остават оповестени в уеб страниците на обществените медии. Според Бен Декър, който управлява Memetica, организация за цифрови следствия, фирмите за обществени медии „ в действителност нямат ефикасни проекти за наложително наблюдаване на наличието “.

Подобно на множеството огромни обществени медийни платформи, политиките на X не разрешават шерването на „ синтетични, манипулирани или отвън подтекста медии, които могат да заблудят или объркат хората и да доведат до щета “. Но в това време X значително изкорми своя екип за модериране на наличие и разчита на автоматизирани системи и отчитане на потребителите. (В Европейски Съюз сега X се проверява по отношение на практиките му за модериране на съдържание).

Компанията не отговори на настояването на CNN за коментар.

Други обществени медийни компании също понижиха своите екипи за модериране на наличие. Meta, да вземем за пример, направи съкращения в своите екипи, които се оправят с дезинформацията и координира акции за тролове и тормоз в своите платформи, споделиха хора с директно познаване на обстановката CNN, пораждайки безпокойствие преди основните избори през 2024 година в Съединени американски щати и по света.

Декър сподели, че това, което се е случило със Суифт, е „ главен образец за методите, по които AI се отприщва заради доста незаконни аргументи, без да има задоволително парапети, с цел да отбрани публичния площад “.

На въпрос за изображенията в петък прессекретарят на Белия дом Карин Жан-Пиер сподели: „ Това е обезпокоително. Разтревожени сме от отчетите за разпространяването на изображения, които преди малко изложихте – подправени изображения, по-точно, и това е обезпокоително. “

Нарастваща тенденция

Въпреки че тази технология е налична от известно време, в този момент тя още веднъж притегля вниманието поради обидните фотоси на Суифт.

Миналата година ученичка от гимназията в Ню Джърси започва акция за федерално законодателство за справяне с генерираните от изкуствен интелект нецензурен изображения, откакто сподели, че фотоси на нейни и 30 други съученички са били манипулирани и евентуално споделяни онлайн.

Франческа Мани, ученичка в гимназията Westfield, изрази отчаяние от неналичието на правни средства за отбрана на жертвите на порнография, генерирана от AI. Майка й сподели пред CNN, че наподобява „ момче или няколко момчета “ в общността са основали изображенията без единодушието на девойките.

„ Всички учебни квартали се борят с провокациите и въздействието на изкуствения разсъдък и други технологии, налични за учениците когато и да е и на всички места “, сподели шефът на Westfield доктор Реймънд Гонзалес пред CNN в изказване по това време.

През февруари 2023 година сходен проблем засегна общността на игрите, когато почитан стриймър на видеоигри от мъжки пол в известната платформа Twitch беше заловен да гледа надълбоко подправени видеоклипове на някои от колежките си от Twitch стрийминг. Стриймърът на Twitch „ Sweet Anita “ по-късно сподели пред CNN, че е „ доста, доста сюрреалистично да гледаш по какъв начин правиш нещо, което в никакъв случай не си правил “.

Възходът и достъпът до принадлежности, генерирани от AI, улесни всеки да основава и тези типове изображения и видеоклипове. И също по този начин съществува доста по-широк свят от немодерирани небезопасни за работа AI модели в платформи с отворен код, съгласно Декър.

Премахването на това остава мъчно. В момента девет американски щата имат закони против основаването или шерването на дълбоки подправени фотоси без единодушие, синтетични изображения, основани, с цел да имитират нечия аналогия, само че нито един не съществува на федерално равнище. Много специалисти приканват за промени в раздел 230 от Закона за благовъзпитание в връзките, който пази онлайн платформите от отговорност за генерирано от потребителите наличие.

„ Не можете да го накажете съгласно законите за детската порнография … и е друго в смисъл, че не се случва полово принуждение над деца “, сподели Ситрон. „ Но унижението и чувството да бъдеш трансфорат в обект, когато другите хора те виждат