Вътре в кризата с дълбоко фалшивото порно, обхващаща корейските училища

Миналата събота, Съобщение в Telegram се появи на телефона на Heejin от неизвестен адресант. „ Вашите фотоси и персонална информация са изтекли. Нека да обсъдим. “

Когато студентката влезе в стаята за чат, с цел да прочете известието, тя получи своя фотография, направена преди няколко години, до момента в който още беше на учебно заведение. Бе последвано от второ изображение, употребяващо същата фотография, единствено че това беше полово намерено и подправено.

Ужасена, Хиджин, което не е същинското й име, не отговори, само че изображенията продължиха да идват. Във всички тях лицето й е било прикрепено към тяло, участващо в полов акт, благодарение на комплицирана технология deepfake.

Deepfakes, множеството от които съчетават същински лице на човек с подправено, полово намерено тяло, от ден на ден се генерират благодарение на изкуствен интелект.

„ Бях вкаменена, усещах се толкоз сама “, сподели Хиджин пред BBC.

Но тя не беше сама.

Два дни по-рано южнокорейската журналистка Ко Нарин разгласява това, което ще се трансформира в най-голямата лъжичка в нейната кариера. Наскоро стана ясно, че полицията проверява надълбоко подправени порно кръгове в два от огромните университети в страната и госпожа Ко беше уверена, че би трябвало да има още.

Тя стартира да търси в обществените мрежи медии и разкриха десетки групи за чат в приложението за известия Telegram, където потребителите споделяха фотоси на дами, които познават, и използваха AI програмен продукт, с цел да ги трансфорат в подправени нецензурен изображения за секунди.

„ Всяка минута хората качваха фотоси на девойки, които познават, и ги молеха да бъдат превърнати в дълбоки имитации “, ни сподели госпожа Ко.

Г-жа Ко откри, че тези групи не са ориентирани единствено към студенти. Имаше стаи, отдадени на съответни гимназии и даже междинни учебни заведения. Ако доста наличие е основано благодарение на изображения на избран възпитаник, тя може даже да получи лична стая. Наричани необятно „ стаи за оскърбление “ или „ стаи за другари на другари “, те постоянно идват със строги условия за влизане.

Докладът на госпожа Ко във вестник Hankyoreh шокира Южна Корея. В понеделник полицията разгласи, че обмисля да стартира следствие на Telegram, следвайки образеца на управляващите във Франция, които неотдавна упрекнаха съветския създател на Telegram за закононарушения, свързани с приложението. Правителството даде обещание да вкара по-строги санкции за забърканите, а президентът прикани младите мъже да бъдат по-добре образовани.

Telegram сподели, че „ интензивно се бори с нездравословните наличие на неговата платформа, в това число противозаконна порнография “, в изказване, предоставено на BBC.

" Систематичен и проведен развой "

BBC е прегледал описанията на редица от тези чат стаи. Един приканва членовете да разгласяват повече от четири фотоси на някого дружно с неговото име, възраст и регион, в който живее.

„ Бях шокиран от това какъв брой систематично и проведеният развой беше “, сподели госпожа Ко. „ Най-ужасното нещо, което открих, беше група за малолетни възпитаници в едно учебно заведение, която имаше повече от 2000 членове. “

В дните след публикуването на публикацията на госпожа Ко, деятелите за правата на дамите също започнаха да претърсват Telegram и да следват следите.

До края на тази седмица повече от 500 учебни заведения и университети бяха разпознати като цели. Действителният брой наранени към момента следва да бъде открит, само че се счита, че доста от тях са на възраст под 16 години, което е възрастта за единодушие в Южна Корея. Голяма част от обвинените причинители са самите младежи.

Хейжин сподели, че научаването за мащаба на рецесията е влошило безпокойството й, защото в този момент се тревожи какъв брой хора може да е гледал нейните дълбоки подправени изображения. Първоначално тя обвиняваше себе си. „ Не можех да спра да мисля дали това се случи, тъй като качих фотосите си в обществените медии, трябваше ли да бъда по-внимателен? “

Десетки дами и младежи на всички места страната от този момент отстрани фотосите им от обществените медии или деактивира изцяло сметките им, уплашени, че може да бъдат експлоатирани идващия път.

„ Ние сме разочаровани и ядосани, че би трябвало да цензурираме държанието си и потреблението на обществените медии, когато не сме създали нищо неприятно “, сподели един студент, Ах-юн, чиито връстници са били набелязани.

Ah-eun сподели, че на една жертва в нейния университет е казано от полицията да не си прави труда да преследва случая й, защото ще бъде прекомерно мъчно да се залови причинителят и беше „ в действителност не е закононарушение “, защото „ фотосите бяха подправени “.

В сърцето на този скандал е приложението за известия Telegram. Приложението е известно с това, че има „ лека “ модерираща позиция и е упреквано, че не прави задоволително, с цел да управлява наличието и изключително групите от години.

Това направи това е.

Миналата седмица политиците и полицията реагираха пламенно, обещавайки да проверяват тези закононарушения и изправяне на причинителите пред правораздаването.

В понеделник Националната полицейска организация на Сеул разгласи, че ще проверява Telegram за ролята му в позволяването на подправени нецензурен изображения на деца да бъдат популяризирани.

Основателят на приложението, Павел Дуров, беше съизвършител в редица закононарушения, свързани с приложението, в това число разрешаване на шерването на детска порнография.

Но деятели за правата на дамите упрекват управляващите в Южна Корея, че разрешават полово принуждение на Telegram да къкри без надзор прекомерно дълго, тъй като Корея се е сблъсквала с тази рецесия и преди. През 2019 година стана ясно, че секс тайфа е употребила Telegram, с цел да принуждава дами и деца да основават и споделят очевидни полови изображения на себе си.

Полицията по това време попита Telegram за помощ при тяхното следствие, само че приложението пренебрегва всичките седем техни претенции. Въпреки че тарторът в последна сметка беше наказан на повече от 40 години затвор, против платформата не бяха подхванати дейности заради опасения от цензура.

„ Осъдиха основния артисти, само че другояче подцениха обстановката и мисля, че това утежни обстановката “, сподели госпожа Ко.

Парк Джихюн, който като млад студент-журналист разкри секс-пръстена в Nth room през 2019 година, от този момент се трансформира в политически бранител на жертвите на цифрови полови закононарушения. Тя сподели, че откогато избухна абсурдът с deepfake, възпитаници и родители й се обаждали по няколко пъти дневно и плачели.

„ Те са видели учебното заведение си в листата, споделен в обществените медии, и са ужасени. “

Г-жа Парк води апели към държавното управление да контролира или даже да забрани приложението в Южна Корея. „ Ако тези софтуерни компании няма да си сътрудничат с правоприлагащите органи, тогава страната би трябвало да ги контролира, с цел да отбрани своите жители “, сподели тя.

Преди тази последна рецесия да избухне, Южнокорейският център за покровителство за жертви на онлайн полово принуждение (ACOSAV) към този момент видя внезапен скок в броя на малолетните жертви на deepfake порнография.

През 2023 година те са съветвали 86 младежи жертви. Това скочи до 238 единствено през първите осем месеца на тази година. Само през миналата седмица други 64 жертви на младежи се появиха.

Един от ръководителите на центъра, Парк Сеонгхе, сподели, че през миналата седмица нейният личен състав е бил наводнен с позвънявания и работеха непрекъснато. „ Това беше пълномащабна изключителна обстановка за нас, като обстановка по време на война “, сподели тя.

„ С най-новата технология deepfake в този момент има доста повече фрагменти от имаше и се тормозим, че единствено ще се усилва. ”

Както както и консултиране на жертви, центърът наблюдава нездравословно наличие и работи с онлайн платформи, с цел да го отстрани. Г-жа Парк сподели, че е имало случаи, в които Telegram е премахвал наличие по тяхно искане. „ Така че не е невероятно “, означи тя.

В изказване Telegram сподели на BBC, че неговите модератори „ самодейно следят обществените елементи на приложението, употребяват AI принадлежности и приемайте потребителски отчети, с цел да премахвате всеки ден милиони елементи от наличие, което нарушава изискванията на услугата на Telegram ”.

Докато организациите за правата на дамите одобряват, че новата AI технология улеснява употребата на жертвите, те настояват, че това е единствено най-новата форма на мизогиния, която се разиграва онлайн в Южна Корея.

Първите дами бяха подложени на талази от словесно принуждение онлайн. След това пристигна епидемията от шпионски камери, където те бяха скрито снимани да употребяват публични тоалетни и съблекални.

„ Основната причина за това е структурният сексизъм и решението е полът тъждество “, се споделя в изказване, подписано от 84 женски групи

Това е директна рецензия към президента на страната Юн Сук Йол, който отхвърли съществуването на систематичен сексизъм, понижи финансирането на групите за поддръжка на жертвите и отстрани държавното министерство за тъждество сред половете.

Lee Myung-hwa, който лекува млади причинители на полови закононарушения, се съгласи, че въпреки експлоадирането на корист с deepfake може да наподобява ненадейно, то от дълго време се крие под повърхността „ За младежите deepfake-овете са станали част от тяхната просвета, те се възприемат като игра или смешка “, сподели съветникът, който управлява Aha. Сеулски юношески културен център.

Г-жа Лий сподели, че е от първостепенно значение образовайте млади мъже, цитирайки проучване, което демонстрира, че когато кажете на нарушителите какво тъкмо са създали неверно, те стават по-наясно какво се смята за полово принуждение, което ги стопира да извършат наново закононарушение.

Междувременно държавното управление съобщи, че ще усили наказателните присъди на тези, които основават и споделят дълбоки подправени изображения, и също по този начин ще накаже тези, които гледат порнография.

Това следва рецензиите, че не са били осъдени задоволително причинители. Един от проблемите е, че по-голямата част от нарушителите са младежи, които нормално се съдят в съдилища за малолетни, където получават по-леки присъди.

Тъй като чат стаите бяха разкрити, доста от тях бяха затворени, само че съвсем несъмнено нови ще заемат тяхното място. Вече е основана стая за оскърбление против публицистите, отразяващи тази история. Г-жа Ко, която заяви новината, сподели, че това й е довело до безсънни нощи. „ Продължавам да ревизирам стаята, с цел да видя дали фотографията ми е качена “, сподели тя.

Подобно безпокойствие се е популяризирало измежду съвсем всяка тийнейджърка и млада жена в Южна Корея. Ah-eun, студентката, сподели, че това я е предиздвикало да подозира своите познати мъже.

„ Сега не мога да съм сигурна, че хората няма да извършат тези закононарушения зад тила ми, без да знам “, сподели тя. „ Станах свръхбдителен във всичките си взаимоотношения с хората, което не може да е добре. “

Допълнителни отчети от Hosu Lee и Suhnwook Lee