ИИ Прави ли сексуалната експлоатация на момичета още по-лоша

Във вторник Кат Тенбардж и Лиз Кройц от NBC News съобщиха, че няколко средношколци в Бевърли Хилс, Калифорния, са били хванати да правят и разпространявайки фалшиви голи снимки на свои връстници: „Училищните служители в средното училище Beverly Vista бяха уведомени за „генерираните от AI голи снимки“ на ученици миналата седмица, каза областният началник в писмо до родителите. Управителят каза на NBC News, че снимките включват лица на ученици, насложени върху голи тела.“

Чувал съм за подобни неща, които се случват на момичета в гимназията, което е достатъчно ужасно . Но идеята за такива малки деца, дехуманизирани от своите съученици, унижавани и сексуализирани на едно от местата, където трябва да се чувстват в безопасност, и знаейки, че тези образи могат да бъдат незаличими и по целия свят, преобърна стомаха ми.

Не съм технофоб и в миналото съм бил малко скептичен относно огромното отрицателно въздействие на социалните медии върху тийнейджърките. И въпреки че все още смятам, че темата е сложна и че изследванията не винаги стигат до заключението, че има неблагоприятни ефекти върху психичното здраве от използването на социални медии върху всички групи млади хора, нарастващият обхват на изкуствения интелект добавя нова бръчка, която има потенциал да причини всякакви щети. Възможностите са особено плашещи, когато технологията се използва от тийнейджъри и тийнейджъри, групи с известна съмнителна преценка относно постоянството на действията си.

Трябва да призная, че интуитивната ми реакция към историята на Бевърли Хилс беше ярост - исках книгата да бъде хвърлена срещу децата, които направиха тези фалшификати. Но исках да чуя някой с повече опит в разговорите с тийнейджъри и задълбочено мислене за връзката на подрастващите с поверителността и технологиите. Затова се обадих на Девора Хейтнър, автора на „Да растеш публично: да съзряваш в дигитален свят“, за да ми помогне да се отдръпна малко от моята наказателна ярост.

В книгата си Хайтнър предлага пример, в който момиче от осми клас изпраща топлес снимка на своя приятел, който я разпространява сред приятелите си без нейно разрешение. След като се разделиха, но без нейното знание, „снимката й продължи да циркулира, преминавайки от съученик на съученик през гимназията им“, а след това „един следобед тя отвори училищния си имейл, за да намери видео с изображението си със звукови ефекти от порно видео се играе с него.”

Този вид ситуация вече е отвратителна, но създаването на фалшиви голи изображения добавя още един слой на прегрешение. В случая с Бевърли Хилс, според NBC News, учениците от средното училище не само сексуализираха връстниците си без съгласие чрез създаване на фалшификати, но и споделиха изображенията, което може само да усложни болката.

"Ако създавате образ на някой друг и го правите без негово съгласие", каза ми Хайтнер, "независимо дали е истинско или фалшиво, вие нарушавате този човек и нарушавате поверителността му, нарушавате неговата безопасност." В тези ситуации, каза тя, момичетата може да почувстват, че чувството им за социално приемане е изгубено. Те могат да изпитат чувство на мъчително унижение от това, че не знаят кой от техните връстници е виждал този тип изображения и кой не. В книгата си Хайтнър описва ситуации, в които момичетата напълно спират да ходят на училище.

Но Хайтнър също предупреди да не се наказват прекалено много извършителите, когато са по-малки деца. „Важно е да се разбере, че 12- или 13-годишно дете е различно в развитието си от възрастен“, каза тя. Въпреки че може да е уместно да спрете това дете или да го преместите в друго училище, ако жертвите му вече не искат да са около тях, не трябва да им се забранява за неопределено време всякакво участие в училище или да ги изгонва от обществото. Те могат да бъдат изкупени; те могат да се поправят и да станат възрастни, които знаят по-добре. (Трябва да се отбележи, че в случая с Бевърли Хилс, според NBC News, директорът на училищата е казал, че отговорните ученици могат да бъдат отстранени или изключени, в зависимост от това доколко са участвали в създаването и споделянето на изображенията.)

Научете детето си колко е важно никога да не споделя изрично съобщение или снимка на друг човек — особено без съгласието на този човек. Обяснете им, че независимо от това как са попаднали на изричното изображение или съобщение, предаването му на някой друг е неетично, увековечава нарушението на това лице и много вероятно е незаконно в техния щат (особено ако изображението е на непълнолетно лице).

Съответните закони обаче се прилагат най-пряко за реални снимки. В някои щати голи тела, генерирани от изкуствен интелект, съществуват по-скоро в легална сива зона. Няма федерален закон, който да защитава жертвите на deepfake и, според доклада на Tenbarge и Melissa Chan, „Политиците и правните експерти казват, че има малко, ако има такива, пътища за обжалване на жертвите на генерирана от AI и deepfake порнография“ – почти всички от които са жени, според проучване от 2019 г. Училищните райони и правната ни система трябва да действат бързо, за да излязат с политики, които се занимават с тези проблеми, защото те няма да изчезнат и само ще станат все по-разпространени с развитието и разпространението на технологиите.

Heitner също така подчерта важността на достигането до корена на този вид поведение. „Всъщност трябва да се стремим да учим децата на съпричастност и взаимно уважение към човечността“, каза тя, и също така да погледнем „женомразството и хомофобията в обществото, които изглежда дават на тези деца разрешение да тормозят по тези много родови линии и охраняват телата си една на друга.”

Редовно чувам от хора, които казват, че са объркани, че младите жени все още се чувстват толкова обезсилени, предвид факта, че печелят мнозинството с висше образование и се справят по-добре от колегите си мъже по няколко показателя. На определено ниво не е толкова сложно: момичетата често се чувстват по-малко, защото знаят, че някои от техните връстници имат впечатлението, че им е позволено да бъдат безмислено унизителни. Освен това те знаят, че част от обществото ги цени само като обекти. Те вървят по света с тази тежест на раменете си и от всички нас зависи да помогнем да я вдигнем.

Последвайте ни в