„Насилване и дехуманизиране“: Как AI deepfakes се използват за насочване към жени

Експертите описват използването на изображения на човек за създаване на дълбоки фалшификации с помощта на изкуствен интелект (AI) без тяхното съгласие като „дехуманизиране“.

Технологията Deepfake нарасна в популярност през последните няколко години и никога не е било по-лесно да се направят, тъй като хората могат да обработват видео или аудио по хиперреалистичен начин.

Необходими са само няколко снимки на нечие лице, за да се създаде deepfake.

Някои го използват за забавление, тъй като е в основата на приложенията за смяна на лица и множество филтри в социалните медии, но има и няколко злонамерени употреби от фалшиви видеоклипове на политици до измами.

Жените са особено насочени към фалшива порнография, която често се излъчва без съгласие.

През 2019 г. Deeptrace, компания, специализирана в изкуствения интелект (AI), изчисли, че огромното мнозинство е създадено без съгласието на представеното лице.

„Това е нарушение. Това е дехуманизиране. И реалността е, че ние знаем, че това може да повлияе на пригодността за заетост на човек. Това може да повлияе на междуличностните отношения и психичното здраве на човека“, каза , активист и изследовател в Университета на Западна Австралия, която се занимава със злоупотреби, базирани на изображения в продължение на десет години.

В един от най-новите случаи тийнейджърки на 11 години бяха насочени и снимките бяха споделени с техните съученици в гимназията чрез социалните мрежи медии.

Явление, насочено към жени

Феноменът на deepfakes беше наблюдаван за първи път през 2017 г. в специализирани форуми като Reddit с насочени жени знаменитости поради голямото количество изображения, налични в мрежата.

„Една от най-смущаващите тенденции, които виждам във форумите на хората, които правят това съдържание, е, че те смятат, че е шега или не смятат, че е сериозно, защото резултатите не са хиперреалистични, без да разбират това за жертви, това все още е наистина, наистина болезнено и травматично“, каза Хенри Айдер, експерт по генеративен ИИ.

Но сега, когато технологията става все по-широко достъпна, всички жени са загрижени за сериозни рискове от социални и психологически последици.

„Ужасяващо и шокиращо е да видиш себе си изобразен по начин, с който не си съгласен“, каза Мартин.

„Реалността е такава. Знаем, че това може да повлияе на пригодността за заетост на дадено лице. Това може да повлияе на междуличностните отношения и психичното здраве на човека“, добави тя.

Понякога дийпфейковете се правят като начин да се дискредитира работата на жените.

Активистката Кейт Айзъкс и журналистката Рана И двамата Ayyub бяха жертви на клеветнически кампании, използващи deepfakes, поради професионалните си дейности.

Освен това, особено с подобряването на технологията.

„Реалистично, индивидът и невъоръженото око на индивида е просто няма да бъде надежден маркер за забелязване на фалшификати. Знаете, дори сега, но особено в бъдещето, тъй като резултатите стават по-добри по отношение на качеството“, каза Айдер.

В скорошно съобщение за обществена услуга от САЩ Федералното бюро за разследване (ФБР) каза, че продължават „да получават доклади от жертви, включително непълнолетни деца и несъгласни възрастни, чиито снимки или видеоклипове са били променени в изрично съдържание“.

Имаше дори случаи в които дълбоко фалшиво порно е използвано за изнудване на хора.

„Към април 2023 г. ФБР забеляза ръст на жертвите на сексуален изнудване, съобщаващи за използването на фалшиви изображения или видеоклипове, създадени от съдържание, публикувано на техните сайтове в социални медии или публикации в мрежата, предоставени на злонамерения актьор при поискване или заснети по време на видео чатове“, се казва в съобщението.

Престъпленията остават ненаказани

Трудни за откриване, deepfakes също са трудни за преследване като законодателите се опитват да наваксат изоставането с технологията.

В края на 2022 г. Министерството на правосъдието на Обединеното кралство заяви, че споделянето на дълбоки фалшиви съобщения без съгласието на човек може да доведе до лишаване от свобода. Тайван също е въвел подобен законопроект.

В Европа Законът за цифровите услуги (DSA) не разглежда проблема с дълбоките фалшиви съобщения без съгласие. Въпреки това, чийто проект току-що приключи преговорите, трябва да осигури по-стабилна правна рамка.

В Съединените щати, неконсенсусните deepfake са криминални.

„Има трябва да има някаква глобална реакция от правителството, правоприлагащите органи, от хората на място, общностите на жертвите. Така че има отговорност за хората, когато не могат просто да съсипят нечий живот и да се измъкнат без последствия," каза Мартин.

За повече информация относно тази история гледайте видеоклипа в медийния плейър по-горе.

Последвайте ни в