Фалшиви голи снимки с лица на непълнолетни знаменитости оглавяват някои резултати от търсачките

Deepfake изображения, които присаждат лице на дете върху полово очевиден материал, се намират елементарно в най-хубавите резултати от търсенето на изображения във водещи търсачки и всеобщи обществени медии платформи, макар че законът на Съединени американски щати наподобява не разрешава сходен материал.

Такива изображения постоянно включват лица на добре известни звезди, преди да са навършили 18 години, съчетани с голо тяло на възрастен. Два от първите 10 резултата от търсенето на изображения за термина „ подправени голи тела “ в Bing на Microsoft са полово открити дълбоки подправени фотоси на звезди от времето, когато са били на възраст 12 и 15 години, съгласно обзор, изработен от NBC News. Едно от тези изображения също беше върнато на първата страница с резултати от търсенето на изображения в Гугъл за едно от имената на звездата плюс „ подправени голи актове “.

Microsoft и Гугъл споделиха, че са премахнали съответния разпознат материал от NBC News от най-хубавите резултати от търсенето. Въпреки това, резултатите от търсенето за термини като „ подправени голи актове “ и имена на съответни звезди плюс „ подправени голи актове “ и „ deepfakes “ към момента връщат страници с сходни изображения без единодушие на очевиден полов темперамент и на двете платформи. Останалите дълбоки подправени резултати включват лица, които наподобяват като възрастни, както и младо изглеждащи лица, които NBC News не е проучвал.

„ Microsoft има дълготраен ангажимент да усъвършенства сигурността на децата и да отстрани нелегално и нездравословно наличие от нашите услуги. Ние премахнахме това наличие и оставаме ангажирани с укрепването на нашите отбрани и отбраната на услугите ни от злоупотребяващо наличие и държание онлайн “, сподели представител на Microsoft в изказване.

„ Гугъл Търсене има мощни отбрани за ограничение на обсега на непоносимо наличие, което изобразява CSAM [материали за полово малтретиране на деца] или експлоатира малолетни, и тези системи са ефикасни и против синтетични изображения с CSAM “, сподели представител на Гугъл в изказване. „ Ние самодейно откриваме, отстраняваме и докладваме такова наличие в Търсене и разполагаме с спомагателни отбрани за пречистване и намаление на наличие, което сексуализира малолетни. В сходство с нашите правила, ние премахнахме изображението, за което ни беше обявено, и непрестанно актуализираме и подобряваме нашите логаритми и политики за битка с тези разрастващи се закани. “

През януари година NBC News откри два образеца за подправени медии със полов темперамент, включващи тийнейджърката на Marvel Xochitl Gomez, които се появиха в горната част на X (бивш Twitter) резултати от търсене за нейното име и думата „ голи “. X не отговори на искане за коментар по това време, само че резултатите от този момент са изчезнали.

Deepfake е подправена или подвеждаща медия, която се генерира или редактира благодарение на AI принадлежности. Изричните полови дълбоки фалшификации без единодушие нормално се отнасят до материал, основан с AI технология, спрямо компютърно генерирани или редактирани подправени голи фотоси, които предшестват настоящата AI вълна.

Федерален закон, който съгласно двама правни специалисти не разрешава знаейки, че производството, разпространяването, приемането или притежаването на компютърно генерирани полово очевидни изображения на деца е в Кодекса на Съединени американски щати от края на 90-те години. Но специалистите споделят, че законът не е бил прилаган против софтуерни компании, хостващи изображения като тези, разпознати от NBC News, а по-скоро е бил употребен понякога за наказание на обвинени в случаи, включващи обособени причинители. Има разнообразни аргументи такива материали да остават в платформите на обществените медии и търсачките, споделиха специалистите.

„ Повечето хора в действителност не знаят какъв е законът за детската порнография, т.к. не е явно. Това не значи единствено „ голи фотоси на деца “, сподели Мери Ан Франкс, професор в Юридическия факултет на университета „ Джордж Вашингтон “ и чест консултант по законодателството по отношение на материали с очевиден полов темперамент без единодушие.

„ Много хора просто допускат, че знаят какво не разрешава законът, само че вие в действителност не знаете и това не е нещо, за което хората в действителност желаят да приказват или да питат “, сподели Франкс. „ Има подобен тип задръжки даже за добросъвестни хора, които се пробват да схванат какъв е законът, да не желаят да го проверяват, тъй като даже да се пробвате да разберете изследване върху него, според от думите ви за търсене, в действителност може да ви изправи пред CSAM. ”

Франкс сподели, че обществените медийни платформи и търсачките може да не носят отговорност единствено за хостване на подобен материал. Правни причини, основани на раздел 230, обособена част от Кодекса на Съединени американски щати, който гласи, че уеб платформите не носят отговорност за генерирано от потребителите наличие, са защитавали софтуерните компании от правосъдни разногласия по отношение на нелегално държание, улеснено посредством техните услуги преди.

Но правни специалисти също оспориха това пояснение на раздел 230. Франкс сподели също, че може да се направи мотив, че платформите са част от процеса на генериране на подобен материал, който може да включва хостинг връзки към приложения и услуги, които могат да основават полово очевиден deepfakes на деца. Такова наличие не е безусловно предпазено от раздел 230.

В Bing на Microsoft търсенето на изображения от тайно браузър за „ подправени голи актове “ с изключени защитни филтри (позволяващи проявлението на порнографско съдържание) връща страници с резултати от подправени голи изображения на звезди. Два от първите 25 резултата включват изображения, които включват лица на малолетни.

Шест някогашни звезди на Disney Channel, като Майли Сайръс, са включени в първите 25 резултата. Сайръс не отговори на искане за коментар.

Един от първите 10 резултата от търсенето на изображения демонстрира лицето на Сайръс, изрязано и сложено върху към този момент съществуващо порнографско изображение. Резултатът може законно да се смята за CSAM, защото употребяваното изображение е на Сайръс, когато е била на 15 години. Такова изображение може да бъде основано с принадлежности за редактиране на фотоси, които са били налични за потребителите от ранните години. Освен това може да се сътвори доста по-бързо и елементарно — и от време на време да наподобява по-реалистично — с усъвършенстваните с AI принадлежности, налични през днешния ден. Резултатът от изображението в Bing препраща към обява във конгрес, направена през декември 2013 година

Търсене на назад изображение за фотографията на лицето на Сайръс във подправеното голо изображение извлече първичното му местонахождение: Беше корицата на нейния сингъл от 2008 година „ Start All Over. “ Песента е издадена през март 2008 година, което значи, че Сайръс е била на 15 или по-млада, когато е направена фотографията. Търсене в Гугъл за „ подправени голи тела на Майли Сайръс “ върна същото подправено голо изображение, показващо 15-годишна Сайръс в първите 10 резултата от търсене на изображения в Гугъл.

Четвъртият резултат за „ подправени голи тела ” в Bing демонстрира лицето на артиста Пейтън Лист, който се появи в сериала на Disney Channel „ Джеси ” при започване на 2011 година, когато тя беше на 13 години. Търсене на назад изображение за лицето на Лист във подправеното голо изображение извлича съвпадане с Getty фотография на List от 2010 година, когато тя беше на 12. Резултатът от търсенето препраща към изтрита обява в Tumblr в блог, който не е бил деен от седем години. Това надълбоко подправяне на List може или не може да почисти лентата за CSAM, защото изобразява голота, само че не безусловно намерено полово държание.

Резултатът до малолетната подправена гола фотография на Cyrus е сходна подправена гола фотография на Селена Гомез. Изображението на Гомез препраща към обява в същата тематика в същия конгрес от декември 2013 година Обратно търсене на изображение откри, че фотографията на Селена Гомез е качена на 30 юли 2009 година, осем дни откакто тя навърши 18 години, демонстрирайки по какъв начин може да бъде мъчно, изключително единствено посредством отгатване, да се дефинира дали лице във подправено голо изображение принадлежи на дете или на възрастен. Лист и Гомес не дадоха отговор незабавно на настояванията за коментар.

Всяко от подправените голи изображения на NBC News, прегледани в резултатите от търсенето в Bing, циркулира онлайн от близо 15 години, което демонстрира, че те предшестват актуалната вълна от технологии за изкуствен интелект, които се употребяват за жертва на дами и девойки в мащаб с все по-сложни подправени медии.

„ Дори преди 2000-те, през 1990-те, незабавно щом интернет прави допустимо поддържането на изображения, има всички тези порно галерии, които вършат това в действителност жестоко фотошопиране на звезди върху голи тела, ” сподели Франкс.

Когато става дума за възрастни жертви в Съединени американски щати има единствено мозайка от държавни закони, уреждащи въпроса за дълбоките фалшификации без единодушие. За малолетните девойки има по-малко правна сива зона — но правоприлагането и пътищата за обжалване са незадоволителни, което оставя разочаровани някои деца жертви на deepfake.

Доклад на NBC News за подправените голи изображения на Xochitl Gomez последва подкаст, който направи, по време на който тя изрази отчаяние, че не може да смъкна изображенията.

„ Защо е толкоз мъчно да се смъкват? Това беше цялата ми мисъл по въпроса, беше „ Защо това е разрешено? “ сподели Гомес в подкаста, обяснявайки, че нейната майка и екипът са се пробвали и не са съумели да смъкват изображенията от X. X има характерни политики против полови връзки без единодушие очевидни надълбоко подправени изображения на всеки.

Deepfake голи и полово очевидни изображения на деца към този момент са противозаконни, откри документ на Lawfare, оповестен този месец от Риана Пфеферкорн от Станфордската интернет обсерватория.

Pfefferkorn цитира раздел 2252A от Кодекса на Съединени американски щати, който беше признат за първи път през 1996 година и променен със Закона за отбрана на Конгреса от 2003 година Разделът не разрешава съзнателното основаване, шерване, приемане или владение с желание за разпространяване на подправен полово очевиден материал, изобразяващ дете (наричани „ морфирани “ изображения), както и „ цифрово изображение, компютърно изображение или компютърно генерирано изображение, което е или е неразличима от тази на малолетно лице, участващо в намерено полово държание. 2018 година Тя е следила еволюцията на технологията и детонацията на надълбоко подправено полово принуждение – но Пферферкорн сподели, че е сюрпризирана, че медийното отразяване на нашумели произшествия подценява съществуващите закони по отношение на компютърно генерираните CSAM. Например, някои случаи в междинното и междинното учебно заведение са довели до следствие на престъпна полиция, само че други не.

„ Най-важният въпрос може да е за какво това не се ползва? “ - сподели Пфеферкорн. „ Колебане ли е да се ползва законът против младежи? Дали полицията не знае за това? Дали се обаждат на ФБР и ФБР не подвига? Знаете ли, каква е разликата тук? “

„ Виждаме чуване след чуване след чуване в Конгреса, където викат основните изпълнителни шефове на софтуерни компании, а аз не видях нищо къде ФБР или Министерството на правораздаването са помолени да се регистрират “, продължи Пфеферкорн.

Главният изпълнителен шеф на Microsoft Сатя Надела разяснява въпроса за дълбоките фалшификации без единодушие на възрастни, като Тейлър Суифт, в изявление от януари за Новини на NBC. Той сподели, че компании като Microsoft би трябвало „ да се движат бързо “, с цел да основат „ защитни парапети “ към AI технологията, и също по този начин прикани правоприлагащите органи и държавното управление да работят по въпроса.

Министерството на правораздаването и ФБР не отговори на претенции за коментар.

За да запълни правни пропуски на щатско равнище, Пфеферкорн сподели, че също по този начин е общувала с щатски законодатели в Кънектикът и Калифорния, които съгласно нея работят върху законодателство свързани с преобразувани deepfake изображения и деца. По-рано, през 2020 година, Калифорния одобри закон, който разрешава на жертви на надълбоко подправяне без единодушие на всякаква възраст да заведат цивилен иск, обвързван с техния случай, само че не криминализира очевидни полови изображения на deepfake. През февруари Камарата на Алабама одобри законодателство за битка с генерираното от AI CSAM, което включва опцията съдилищата да присъждат наказателни компенсации и подрежда на Държавния съвет по обучение да изисква политики на локалните учебни препоръки за произшествия, свързани с такива материали.

Франкс сподели пред NBC News, че хората, станали жертва на подобен материал, могат да бъдат обезсърчени от техните юристи да се пробват да продължат свалянето по легален метод, поради времето, парите и напъните, които лишават сходни случаи.

Франкс сподели, че огромните софтуерни компании като X и Microsoft няма възможност да търсят самодейно deepfake CSAM или други подправени голи изображения, изобразяващи деца, частично заради спомагателната отговорност за установяване на възрастта на изобразения човек и дали е същинско или измислено дете. През 1996 година Върховният съд постанови, че компютърно генерираното CSAM на фиктивни деца е конституционно предпазено, за разлика от трансформираните изображения, които наслагват лице на същинско дете върху голо тяло на възрастен.

„ Мисля, че огромна Приоритетът за фирмите, които се интересуват от този проблем, беше да преследват това, което изглеждаше като „ същинско “ CSAM, освен че наподобява най-вредното, само че също по този начин е и нещото, което явно нарушава закона, което е нелегално и няма отбрана от Първата корекция “, сподели Франкс.

„ Всеки път те интензивно ще търсят