Троловете използваха лицето й, за да направят фалшиво порно. Нямаше нищо, което можеше да направи.

Повечето сутрини, преди да влезе в кметството на Халандейл Бийч, Флорида, дребен град на север от Маями, Сабрина Джавелана сядаше на паркинга и следете нейните сметки в Twitter и Instagram. След като завоюва място в градската комисия на Халандейл Бийч през 2018 година, на 21 години, тя стана един от най-младите определени чиновници в историята на Флорида. Нейните прогресивни политически позиции от време на време са й печелили врагове: откакто предложи смяна на името на щатска пътна артерия, наречена Dixie Highway в края на 2019 година, тя постоянно получава язвителни и насилствени закани в обществените медии; нейното наказание на полицейската грубост и апелите за промяна в наказателното правораздаване провокираха нападателна изразителност от членове на локалните правоприлагащи органи. Смущаващите известия не бяха нищо ново за нея.

порно възмездие. “ През 90-те години на предишния век, когато достъпът до телефони с камери и интернет стана необятно публикуван, за човек стана елементарно да споделя интимни фотоси на различен човек без негово единодушие в уеб сайтове като Pornhub, Reddit и 4chan. Последваха експлицитни видеоклипове, като хората качваха стотици хиляди часове наличие без единодушие онлайн. Deepfakes добави нов детайл: човек може да открие, че се появява в категорично наличие, без въобще да взе участие в полова интензивност.

Технологията за първи път притегли национално внимание, когато беше употребена за основаване на подвеждащо и подправено политическо наличие, като да вземем за пример подправено видео, което Доналд Тръмп показа в Twitter през 2019 година, което включваше фрагменти на Нанси Пелоси, която явно изрича думите си. През последните години обаче по-голямата част от дълбоките подправени материали онлайн се трансфораха в нецензурен. Въпреки че информацията беше нищожна, Javellana откри публикации, предупреждаващи за възходящата опасност от deepfakes. Изкуственият разсъдък напредваше толкоз бързо, че всеки с компютър или смарт телефон можеше да има достъп до голям брой приложения за елементарно основаване на изображения, употребявайки прилики на хора. Едно изследване, представено от Министерството на вътрешната сигурност, отбелязва, че в един миг повече от 90 % от надълбоко подправените видеоклипове са включвали изображения без единодушие, полово очевиден облик, най-вече на дами. През 2021 година обаче по-голямата част от щатите нямаха закони, забраняващи разпространяването на подправена порнография. В резултат на това имаше доста малко насоки какво да вършиме, в случай че откриете, че някой е основал порнографско наличие, показващо ваше сходство.

В деня, в който откри изображенията, Javellana се свърза с член на локалното полицейско ръководство, който я насочи към отдела за киберпрестъпления към Департамента по правоприлагане на Флорида. По телефона с юридическия консултант на отдела Джавелана изложи обстановката и изпрати по имейл връзка към изображенията на 4chan. Докато чакаше да получи отговор, търсенето й за помощ я води при Кари Голдбърг, юрист, който бе привлякъл вниманието на медиите като бранител на правата на жертвите и половата цялост на персоналния живот, откакто сполучливо оспори няколко нашумели порно каузи за възмездие. Фирмата на Голдбърг получи първия си случай на deepfake през 2019 година, когато звезда от A-списъка потърси помощ за порно, което употребява нейното сходство. Въпреки че звездите към момента са на прицел – има надълбоко подправени порно видеоклипове, включващи хиляди дами звезди – напредъкът в технологиите разреши на насилниците да се насочат към хора отвън публичното внимание. Един необятно наличен A.I. приложението обработи повече от 600 000 фотоси на елементарни жители през първите 15 дни след стартирането му през 2023 година

Норма Бъстър, шеф на личния състав на Goldberg, организира оценка на случая с Javellana през телефона през февруари 2021 година След като юристите на компанията оцениха нейната история, Бъстър изясни, че обстановката на Javellana има няколко приемливи правни решения. Фирмата може да изпрати вести за Закона за авторското право в цифровото хилядолетие (DMCA) до уеб страниците, хостващи подправените материали, с аргумента, че те нарушават авторските права на Javellana. Но нямаше гаранция, че ще се съобразят; интернет форумите обичайно не сътрудничат за премахването на наличие. Освен това не беше ясно дали Javellana може да претендира за нарушаване на авторски права, защото A.I. е трансформирал доста истинското изображение. Въпреки че 47 страни са приели закони против злоупотребата с интимни изображения, тези закони не постоянно се ползват за случаите на deepfake. Накратко, Бъстър й сподели, че не могат да създадат доста.

Когато отделът за киберпрестъпления извика Javellana в офисите си през април 2021 година, техните вести бяха толкоз деморализиращи, колкото Голдбърг. Специални сътрудници обясниха, че няма федерални закони против основаването или разпространяването на експлицитни дълбоки имитации без единодушие. Флорида също нямаше държавен закон, който да предотвратява основаването на материала, тъй че ръцете им бяха вързани. Дейността не е законно престъпна; правоприлагащите органи не можаха да проверяват по-нататък.

да криминализират дълбоките фалшификации без единодушие в щата. Сенатор Бук имаше личен опит с тази технология. През ноември 2021 година тя седеше на кухненската си маса, откакто остави децата си на учебно заведение, когато дойде текстово известие от чужд номер: „ Имам предложение за вас “. Последваха две голи фотоси на сенатор Бук; причинителят заплашил, че ще ги освободи, в случай че тя не му даде орален секс и 5000 $ в подаръчни карти. Последвалите проучвания разкриха доста подправени изображения на Senator Book онлайн. Седмици по-късно тя стартира да изготвя законодателство, което ще стане известно като Сенатски законопроект 1798 – един от първите опити в страната за справяне с порнографските дълбоки фалшификации онлайн.

Javellana направи екранна фотография на публикацията, акцентира езика за deepfakes и я разгласява в Twitter, дружно с обобщение на личния си опит. „ Бях травматизирана предходната година, когато научих, че се вършат мои „ deepfake “ изображения “, написа тя. Това беше първият път, когато тя обществено призна за тестването си. „ Занесох го на F.D.L.E. само че те не съумяха да проучат източника, защото законът на Флорида не се занимаваше с този проблем. Благодаря ви @LeaderBookFL за работата ви по това и доста скърбя, че това се случи с вас. “

Докладът на Министерството на вътрешната сигурност отбелязва, че „ всеки, който има профил в обществени медии, е почтена игра да бъде подправен “, а Ф.Б.И. предложи нараснало внимание при издание на персонални фотоси или видеоклипове онлайн. За множеството хора, изключително тези като Javellana с обществени кариери, това управление е нереалистично. Джавелана усещаше, че няма различен избор, с изключение на да поддържа професионален акаунт в Instagram с акценти от времето си на поста, даже откакто знаеше, че нейните изображения са откраднати и манипулирани. Това пресмятане — претегляне на професионалния прогрес против евентуален тормоз — в този момент е нужда за доста дами.

През януари, Конгресът показа федерален законопроект, наименуван Закон за нарушение на категорично фалшифицирани изображения и редакции без единодушие от 2024 година или Закон за ПРОТИВОПОКАЗАНИЕ, който неотдавна беше признат в Сената. Ако бъде признат, законопроектът ще разреши на жертвите да изискат обезщетение в размер на 150 000 $ и да подадат краткотрайни ограничаващи заповеди против насилниците си. Експертите обаче предизвестяват, че ограничението на deepfakes ще изисква от софтуерните компании да управляват своите платформи за злоупотребяващо наличие и да отстраняват приложения, които биха могли да улеснят издевателството. Платформите не са подтиквани да отстраняват този материал, в случай че не са изправени пред евентуални финансови последствия, с помощта на раздел 230 от Закона за благовъзпитание в връзките на Съединени американски щати, който ги освобождава от отговорност за наличие, оповестено от техните консуматори. Голдбърг, юристът, акцентира, че смяната на раздел 230, с цел да се разреши на жертвите да съдят, ще накара платформите да бъдат внимателни при хостването на наличието.

На фона на всичко това Javellana продължи да открива съществуването на нови изображения в три разнообразни платформи. Едва през април 2024 година тя е разкрила минимум 40 тематики в архива на 4chan, всяка от които съдържа голям брой изображения, оповестени от разнообразни консуматори. „ В този миг те ще продължат да се появяват “, сподели ми Джавелана с изтощен глас. Едно сполучливо правосъдно дело може да й предложи известна финансова отплата, само че не и да я защищити от бъдещи материални условия. Ако тя се бореше да отстрани няколко съответни изображения, на тяхно място щеше да се появи ново наличие.

“Това просто в никакъв случай не свършва - сподели тя с корав глас. „ Просто би трябвало да го приема. “

Харука Сакагучи е фотограф от Ню Йорк, известна с документалната си работа, фокусирана върху културната еднаквост и контузиите сред поколенията. В момента тя работи върху план за затварянето на японски американци по време на Втората международна война.

Разказ, продуциран от Krish SeenivasanEmma Kehlbeck и Tanya Pérez

Инженерство от Zak Mouton