За тийнейджърките, станали жертва на „deepfake“ голи снимки, има малко, ако има такива, пътища за прибягване в повечето щати

Тийнейджърки в САЩ, които все по-често стават мишена или заплашвани с фалшиви голи снимки създадени с изкуствен интелект или други инструменти, имат ограничени начини за търсене на отговорност или защита, тъй като училищата и държавните законодателни органи се борят да наваксат новите технологии, според законодатели, правни експерти и една жертва, която сега се застъпва за федерален законопроект.

От началото на учебната 2023 г. случаите, включващи тийнейджърки, станали жертви на фалшиви голи снимки, известни също като deepfakes, се разпространиха по целия свят, включително в гимназиите в Ню Джърси и щата Вашингтон.

Местните полицейски управления разследват инцидентите, законодателите се надпреварват да приемат нови мерки, които да наложат наказания срещу създателите на снимките, а засегнатите семейства настояват за отговори и решения.

Нереалистични deepfakes могат да бъдат направени с прости инструменти за редактиране на снимки, които съществуват от години. Но два училищни района казаха на NBC News, че смятат, че фалшиви снимки на тийнейджъри, които са засегнали техните ученици, са генерирани от AI.

ИИ технологията става все по-широко достъпна, като стабилна дифузия (технология с отворен код, която може да създава изображения от текстови подкани) и инструменти за „размяна на лица“, които могат да поставят лицето на жертвата място на лицето на порнографски изпълнител във видеоклип или снимка.

Приложенията, които претендират да „събличат“ облечени снимки, също са идентифицирани като възможни инструменти, използвани в някои случаи и са намерени безплатно в магазините за приложения. Тези съвременни дълбоки фалшификати могат да бъдат по-реалистични и по-трудни за незабавно разпознаване като фалшиви.

„Не знаех колко сложна и страшна е технологията за изкуствен интелект“, каза Франческа Мани, 15, второкурсничка в Westfield High School в Ню Джърси, където повече от 30 момичета научиха на 20 октомври, че може да са изобразени в явни, манипулирани от AI изображения.

„Бях шокирана, защото аз и другите момичета бяхме предадени от нашите съученици“, каза тя, „което означава, че може да се случи на всеки от всеки.“

Политици и правни експерти казват, че има малко, ако има такива, пътища за прибягване за жертви на генерирана от AI и дълбоко фалшива порнография, която често прикрепя лицето на жертвата към голо тяло.

Снимките и видеозаписите могат да бъдат изненадващо реалистични и според Мери Ан Франкс, правен експерт в медиите с явен сексуален характер без съгласие, технологията за тяхното създаване е станала по-сложна и достъпна.

Месец след инцидента в гимназията Westfield, Франческа и майка й Дорота Мани казаха, че все още не знаят самоличността или броя на хората, които са създали изображенията, колко са били направени или ако все още съществуват. Също така не е ясно какво наказание е наложил училищният район, ако има такова.

Град Уестфийлд насочи коментар към държавните училища Westfield, които отказаха коментар. Позовавайки се на поверителността, училищният район по-рано каза на NBC New York, че „няма да публикува никаква информация за учениците, обвинени в създаването на фалшиви голи снимки, или каква дисциплина е изправена пред тях“.

Суперинтендантът Реймънд Гонзалес каза на новинарското издание, че дистриктът „ще продължи да засилва нашите усилия, като обучава нашите ученици и установява ясни насоки, за да гарантира, че тези нови технологии се използват отговорно в нашите училища и извън тях .”

В имейл, получен от NBC News, Мери Асфендис, директор на гимназията, каза на родителите на 20 октомври, че разследва твърдения на ученици, че някои от техните връстници са използвали AI за създаване на порнографски изображения от оригинални снимки.

По това време училищните служители смятаха, че всички създадени изображения са били изтрити и не са били разпространявани, според бележката.

„Това е много сериозен инцидент“, написа Асфендис, като призова родителите да обсъдят използването на технологии с децата си. „Новите технологии направиха възможно фалшифицирането на изображения и учениците трябва да знаят въздействието и щетите, които тези действия могат да причинят на другите.“

Докато Франческа не е виждала образа на себе си или на другите, майка й каза, че директорът на Westfield й е казал, че четирима души са идентифицирали Франческа като жертва. Франческа е подала сигнал в полицията, но нито полицейското управление на Уестфийлд, нито прокуратурата са отговорили на исканията за коментар.

Сенаторът от щата Ню Джърси Джон Брамник каза, че правоохранителните органи са изразили опасения пред него, че инцидентът ще достигне само до „иск за кибер тормоз, въпреки че наистина трябва да достигне нивото на по-тежко престъпление.“

„Ако прикрепите голо тяло към лицето на дете, това за мен е детска порнография“, каза той.

Републиканският законодател каза, че щатските закони в момента не са в състояние да накажат създателите на съдържание, въпреки че щетите, нанесени от реални или манипулирани изображения, могат да бъдат еднакви.

„Това ги жертва по същия начин, както хората, които занимават се с детска порнография. Това е не само обидно за младия човек, то го опорочава. И никога не знаеш какво ще се случи с тази снимка“, каза той. „Не знаете къде е това, след като бъде предадено, кога ще се върне и ще преследва младото момиче.“

Брамник каза, че висящ щатски законопроект в Ню Джърси ще забрани дълбоко фалшива порнография и налагане на наказателни и граждански санкции за разкриване без съгласие. Съгласно законопроекта човек, осъден за престъплението, ще бъде изправен пред три до пет години затвор и/или глоба от $15 000, каза той.

Ако бъде приет, Ню Джърси ще се присъедини към поне 10 други щати, които са приели законодателство, насочено срещу deepfakes, според Франкс, професор по право и президент на Cyber ​​Civil Rights Initiative, група с нестопанска цел, която се бори с порнографията без съгласие.

Щатските закони, насочени към deepfakes, варират широко по обхват. Някои от тях, като тези в Тексас и Уайоминг, превръщат неконсенсусните порнографски дълбоки фалшификати в криминално нарушение. Други щати, като Ню Йорк, имат закони, които позволяват само на жертвите да предявят граждански иск.

Франкс каза, че законите са „навсякъде“, неизчерпателни и конституционността на законите са поставени под въпрос.

„Така че имате смесица от наказателни обвинения, които ще бъдат трудни в тези случаи, защото извършителите ще бъдат непълнолетни, така че повдига свои собствени въпроси“, каза тя.

„Вероятно само върхът на айсберга“

Не е ясно колко млади хора са били жертва на Голи тела, генерирани от AI.

ФБР каза, че е трудно да се изчисли броят на непълнолетните, които са сексуално експлоатирани. Но агенцията каза, че е забелязала нарастване на броя на откритите случаи, включващи престъпления срещу деца. Имаше повече от 4800 случая през 2022 г., които нараснаха от над 4100 през предходната година, каза ФБР пред NBC News.

„ФБР приема сериозно престъпленията срещу деца и работи за разследване на фактите на всяко обвинение в колективни усилия с нашите държавни, местни и племенни партньори от правоприлагащите органи“, каза агенцията, добавяйки, че жертвите могат да се сблъскат със значителни предизвикателства, когато се опитват да спрат разпространението на изображението или да го премахнат от интернет.

Франкс каза, че вероятно ще има много повече инциденти и че те само ще се увеличат.

„Каквото и да чуваме за това, това изплува до повърхността вероятно е само върхът на айсберга“, каза тя. „Това вероятно се случва доста често в момента и момичетата просто още не са разбрали за това или не са го открили или училището го прикрива.“

В гимназия Issaquah в Представител на училищен окръг в щата Вашингтон каза, че инцидент от средата на октомври, „включващ фалшиви изображения на ученици, генерирани от изкуствен интелект“, продължава да засяга учениците.

В испанския град Алмендралехо майки казват, че десетки техни дъщери на средна училищна възраст са били жертви на голи снимки, генерирани от AI, създадени с приложение, което може да „съблича“ облечени снимки. Местната полиция в Ню Джърси, Вашингтон и Испания разследва случаите в гимназията.

В съобщение за публична услуга през юни ФБР предупреди, че технологията, използвана за създаване на порнографски фалшиви снимки и видеоклипове без съгласие, се подобрява и се използва за тормоз и сексуално изнудване.

Междувременно Националната асоциация на главните прокурори призова Конгреса през септември да проучи въздействието на ИИ върху децата и да излезе със законодателство, което да ги защити от тези злоупотреби.

В писмо, подписано от 54 щатски и териториални главни прокурори, групата заяви, че е загрижена, че „ИИ създава нова граница за злоупотреби, което прави наказателното преследване по-трудно.“

"Ние сме ангажирани в надпревара с времето, за да защитим децата на нашата страна от опасностите на ИИ", се казва в писмото.

Франческа и нейната майка казаха те планират да се отправят към Вашингтон, окръг Колумбия, през декември, за да призоват лично членовете на Конгреса да действат, докато продължават да се застъпват за актуализирани политики в рамките на училищната система и да търсят отговорност за случилото се.

“ Всички знаем, че това не е изолиран инцидент", каза Дорота Мани. „Никога няма да бъде изолиран инцидент. Това ще продължи да се случва през цялото време. Трябва да спрем да се преструваме, че не е важно."

Доклад от 2019 г. от Sensity, базирана в Амстердам компания, която проследява медии, генерирани от изкуствен интелект, установи, че 96% от дълбоките фейкове, създадени в този момент, са били сексуално явни и са включвали жени, които не са се съгласили със създаването им. Много жертви не знаят за съществуването на дълбоки фалшификати.

Франкс каза, че родителите и децата не могат да направят нищо, за да предотвратят създаването на дълбоки фалшификати, използвайки техните подобия. Вместо това Франкс каза, че училищата и местните правоприлагащи органи трябва да направят пример от извършителите в случаите, които достигат до широката общественост, за да обезсърчат другите да създават дълбоки фалшификати.

„Ако можете да си представите драматичен и важен отговор от училището в Ню Джърси или от властите в Ню Джърси, за да направят пример от случая, наистина строги наказания, хората отиват в затвора, може да получите обезсърчение“, каза Франкс.

„При липсата на това, това просто ще се превърне в още един инструмент, който мъжете и момчетата използват срещу жени и момичета, за да ги експлоатират и унижават, и че законът по същество няма какво да каже относно.”

Последвайте ни в