„Глобален проблем“: американски тийнейджър се бори с дълбоко фалшиво порно, насочено към ученички
Deepfake порнографията на известни жени като Тейлър Суифт предизвика възмущение и призиви за регулиране на изкуствения интелект. И все пак тази мощна технология не се използва само за тормоз над жени в очите на обществеността – жертви стават и непълнолетни. Ученички се оказват насочени към генерирано от изкуствен интелект дълбоко фалшиво порно, направено от собствените им съученици с помощта на нови, лесни за достъп приложения за "голо". И няма федерални закони, които да го спрат.
Франческа Мани беше извикана в кабинета на заместник-директора в гимназията Westfield в предградието на Ню Джърси миналата есен, където й беше казано, че е „потвърдена жертва на ИИ“.
Мани, тогава на 14 години, беше информирана, че е сред група ученички, които са направили фалшиви голи изображения с помощта на изкуствен интелект. Момчетата от Westfield High споделиха фалшивите изображения чрез Snapchat.
„Бях в шок“, каза Франческа. „Започнах да се чувствам малко тъжна, но излязох навън в коридора и видях група момчета да се подиграват на група момичета. Те се смееха на това. И тогава бях просто супер ядосан.
В този момент Франческа, младша олимпийска звезда по фехтовка, реши да отвърне на удара.
Фалшивите изображения са били споделяни по време на училищните обедни почивки и в училищния автобус, според полицейските доклади. Но това, което момчетата бяха направили, не беше незаконно – в Съединените щати няма федерални закони срещу генерираните от AI дълбоки фалшификати.
Когато Франческа каза на майка си, Дорота, какво се е случило, тя беше бясна.
„От началото на времето жените трябва да се борят за нашите права и съгласие“, каза Дорота, полска имигрантка с черен колан по джу-джицу. „Това е най-големият проблем тук: Съгласието.“
Момчето, което направи изображенията, беше отстранено от училище за два дни, но нямаше повече отговорност.
Франческа избра да не гледа изображенията. Но тя се почувства неудобно, знаейки, че момчето, което ги е направило – и другите, които са ги споделили – са били в нейните класове.
Някои щатски закони на САЩ забраняват дълбоко фалшивата порнография без съгласие, включително в Тексас, Минесота, Вирджиния, Ню Йорк, Хавай и Джорджия. Но това не е попречило на разпространението на генерирани от изкуствен интелект голи изображения в гимназиите в Ню Джърси, Калифорния или Флорида.
Случаи като този в Westfield High подчертават необходимостта законът да настигне тази бързо развиваща се технология . Франческа и майка й се свързаха с местните законодатели и се заеха да лобират както за щатско, така и за федерално законодателство, което да превърне споделянето без съгласие на дигитално променени порнографски изображения в престъпление.
Дорота и Франческа направиха чести пътувания до Вашингтон, окръг Колумбия, през последните три месеца, за да лобират за двупартиен законопроект, наречен DEFIANCE act, който би превърнал споделянето на сексуално явни дълбоки фалшиви изображения в престъпление и би позволил на жертвите да съдят онези, които създават и разпределете ги.
Законопроект, който предвижда наказателни санкции сега си проправя път през законодателния орган на Ню Джърси, отчасти благодарение на техните усилия.
И двете страни на политическия спектър в САЩ изглежда са съгласни, че трябва да се направи повече за защита на хората, особено непълнолетните, от разпространението на дълбоко фалшива порнография.
Законодателите също така проучват как да държат отговорни технологичните фирми, хостващи тези приложения и уебсайтове.
„Този въпрос е по-широк от тийнейджърите и гимназиите“, обясни Дорота при скорошно посещение в Белия дом. „Говорим за хищници и педофили, които го използват, за да нараняват другите. Мисля, че законите и законодателството са толкова важни.“
Друг тийнейджър жертва от Westfield High School, който желае да остане анонимен, е предприел директни съдебни действия срещу свой съученик. В делото й, заведено през февруари, се твърди, че е претърпяла значителни емоционални страдания и щети върху репутацията й, като се изисква финансова компенсация.
Искът назовава приложението, използвано за създаване на изображенията: Clothoff. Приложението, което е лесно достъпно и евтино, твърди, че може да премахва дрехи от всяка снимка. Смята се, че нейните тайни основатели са базирани в Беларус.
Deepfake порно „изключително насочено към жени“
През 2023 г. общият брой дълбоки фалшиви видеоклипове онлайн е бил 95 820, което представлява 550% увеличение спрямо 2019 г., според доклад от Home Security Heroes, група, която изследва онлайн сигурността. Deepfake порнографията представлява 98% от тези онлайн видеоклипове. Проучването установи също, че 99% от лицата, набелязани в дълбоко фалшива порнография, са жени.
„Това е феномен, който е насочен почти изключително към жените“, бившата служителка на администрацията на Джо Байдън Нина Янкович каза на конференция в Колумбийския университет на 4 март.
Янкович е експерт по дезинформация и онлайн тормоз над жени. Самата тя стана жертва на дълбоко фалшива порнография и го осъзна едва когато получи сигнал от Google, свързващ нецензурни видеоклипове, включващи някой, който прилича на нея. Deepfake видеоклипове са направени от официалния й портрет, заснет, докато е бременна. Изображението беше подхванато от десни медии, ядосани от нейната роля в борбата с дезинформацията в администрацията на Байдън, а онлайн троловете го превърнаха в порнография.
„Прилича донякъде на мен, но не е наистина, отново, защото е трениран върху този много конкретен мой портрет и мога да кажа, че е трениран върху това“, каза Янкович, посочвайки графичните видеоклипове върху нея лаптоп. „Но не, не съм гледал всичко. Всеки от тях е дълъг около седем минути — това е много, на което да се подложите.“
Тя каза, че част от причината тези deepfakes да се разпространяват толкова бързо е, че приложенията, използвани за създаването им, вече са толкова лесно достъпни. „Тази технология вече е напълно демократизирана и се използва не само срещу знаменитости, като Тейлър Суифт или публични фигури като мен. Тя се използва срещу обикновени хора – майки, млади жени в средно и средно училище, чиито съученици правят тези изображения на всички приложения за нудифициране трябва да бъдат премахнати от магазините за приложения и пазарите и подобни неща."
Глобален възход на дълбоко фалшивото порно
Объединените нации проучват как да се борят с глобалния възход на тази технология.
Катрин Травърс, политически експерт в ООН Жени, вярва, че образованието е ключово. „Трябва да научите момчетата как да уважават жените и как да бъдат отговорни онлайн по същия начин, по който трябва да учите момичетата“, казва тя.
Тези AI изображения може да съществуват във виртуалното пространство, но имат въздействие върху реалния свят. Момичетата и жените преживяват непропорционални нива на насилие онлайн, понякога с опустошителни последици.
„Те може да са в положение, в което имат по-малко познания за правата си и за това на кого да докладват. Мнозина често обвиняват себе си – поради технологията, която има потенциал за натрупване, споделяне и повторно споделяне на техните изображения, въздействието върху психичното здраве е огромно и е довело до смърт чрез самоубийство на редица момичета.“
Родители на деца, набелязани от deepfake porn от целия свят вече се свързаха с Дорота за съвет „Говорих с родители и жертви от всички краища на Съединените щати – Тексас, Уисконсин, Калифорния. Наскоро някой от Гърция се свърза с мен, а преди това Япония, Лондон, Париж, Австралия и Канада. Това е глобален проблем."
