Google и Bing поставят дълбоко фалшивата порнография без съгласие в горната част на някои резултати от търсене

Неконсенсуалната дълбока подправена порнография е единствено на един клик разстояние в известни търсачки като Гугъл и Bing на Microsoft.

Deepfake порнографията постоянно присажда лицето на човек в същинска порнографска сцена - да вземем за пример, лицето на известна жена ще бъде „ разменено “ с лицето на стара звезда, което прави да наподобява, че известната жена е гола или взе участие в полов акт.

NBC News откри, че надълбоко подправените нецензурен изображения, включващи приликите на звезди, са първите изображения, които Гугъл и други водещи търсачки извеждат при търсения на имена на доста дами и думата „ deepfakes “, като общи термини като „ deepfake порно “ или „ подправени голи актове “. Търсенията бяха осъществени с изключени принадлежности за безвредно търсене.

Правни специалисти, покровители и жертви споделят, че надълбоко подправеното порно без единодушие е прераснало в рецесия и те молят софтуерните платформи да се засилят, където законите и правоприлагащите органи към момента не са подхванали дейности. Все по-голям брой щати са приели или въвели закони, които да ръководят потреблението на deepfake, изключително по време на избори, само че неконсенсусното deepfake порно единствено продължава да се популяризира.

NBC News потърси комбинацията от име и думата „ deepfakes “ с 36 известни дами звезди в Гугъл и Bing. Прегледът на резултатите откри дълбоки подправени изображения без единодушие и връзки към надълбоко подправени видеоклипове в най-хубавите резултати на Гугъл за 34 от тези търсения и най-хубавите резултати в Bing за 35 от тях. Повече от половината от най-хубавите резултати бяха връзки към известен надълбоко подправен уеб страница или съперник. Популярният уеб страница deepfake култивира пазар за надълбоко подправено порно без единодушие на звезди и частни персони.

Google „ подправени голи “ върна връзки към голям брой приложения и стратегии за основаване и обзор на надълбоко подправено порно без единодушие в първите шест резултата, последвано от шест публикации за момчета от гимназията, за които се твърди, че употребяват технологията за основават и споделят deepfake голи изображения на своите съученички. В Bing търсенето на „ подправени голи тела “ върна две страници с принадлежности и уеб страници за надълбоко подправяне без единодушие, последвани от публикация за вредите от феномена на страница 3 от резултатите от търсенето.

Чатботът на Bing с изкуствен интелект, Copilot, който се появява като алтернатива за резултатите от търсенето, споделя на потребителите, че не може да им демонстрира надълбоко подправено порно. Copilot споделя: „ Използването на deepfakes е неетично и може да има съществени последствия. “ Но десетки връзки към и образци за надълбоко подправена порнография без единодушие са на едно кликване в Bing.

Констатациите акцентират възходящото разпространяване на надълбоко подправена порнография без единодушие и слагат под въпрос какви дейности подхващат софтуерните компании за ограничение на разпространяването им, даже когато софтуерните компании наливат запаси в начинания за изкуствен интелект като Colab и Bard на Гугъл и продуктите на OpenAI, в които Microsoft е главен вложител. Липсата на самодейно наблюдаване на Гугъл за злоупотреби го направи и други търсачки потребни платформи за хора, които желаят да вземат участие в дълбоки подправени акции за тормоз, съгласно специалисти.

Основните уеб резултати на Гугъл нямат правила за наличие, генерирано от изкуствен интелект, само че Гугъл сподели, че неговите функционалности за търсене, като панели с определена информация, не разрешават манипулирана медия или полово намерено наличие. Магазинът за приложения Гугъл Play не разрешава „ приложения, които са решили да разпространяват или поддържат явно подвеждащи или лъжливи изображения, видеоклипове и/или текст “. Въпреки това Play Store на Гугъл продължава да хоства приложение, което преди този момент е рекламирало основаването на нецензурен дълбоки имитации.

Гугъл разрешава на жертвите на deepfake да изискат премахването на такова наличие от резултатите от търсенето посредством формуляр, само че не търси самодейно и не отстранява самичък deepfake. Страницата със поръчка за събаряне гласи: „ Ние преглеждаме единствено URL адресите, които вие или вашият акредитиран представител изпращате във формуляра. “

Говорител на Гугъл сподели в изказване: „ Разбираме какъв брой обезпокоително е това наличие може да бъде за хора, наранени от него, и ние работим интензивно, с цел да предоставим повече отбрани на Търсене. Като всяка търсачка, Гугъл индексира наличие, което съществува в мрежата, само че ние интензивно проектираме нашите системи за класиране, с цел да избегнем шокирането на хората с ненадейно нездравословно или очевидно наличие, което не търсят.

„ Тъй като това пространство се развива, ние сме в развой на създаване на по-широки защитни ограничения, със специфичен фокус върху премахването на нуждата известните жертви да изискват унищожаване на наличие едно по едно, ”, продължава изказването.

Докато Гугъл господства в трафика на търсачките, различни търсачки като Bing на Microsoft и самостоятелната търсачка DuckDuckGo също включват подправени голи изображения на звезди в резултатите от търсенето. Съдържанието, показано в най-хубавите резултати от търсенето на изображения за Bing, включва подправени голи фотоси на някогашни тийнейджърки, артисти от Disney Channel, а някои от изображенията употребяват фотоси на лицата им, които наподобяват направени преди да са навършили 18 години. (Обратно търсене на изображения за някои от лицата, употребявани в някои от фотосите, върнаха резултати, които бяха оповестени онлайн преди актьорите да навършат 18 години.)

Microsoft не отговори на искане за коментар и NBC News не можа да откри Правила на Bing, отнасящи се до генериращо AI наличие. През май президентът на Microsoft Брад Смит сподели на група законодатели: „ Трябва да предприемем стъпки за отбрана против смяна на законно наличие с желание да заблудим или измамим хората посредством потреблението на AI “, съгласно Reuters.

Говорител на DuckDuckGo отговори на искане за коментар по отношение на политиките и изображенията, които наподобява демонстрират малолетни лица, и сподели, че главният източник на обичайни уеб връзки и резултати с изображения е Bing. DuckDuckGo също уточни своята информация за контакт за поръчки, свързани с поверителността.

Адам Додж, който основа просветителната организация с нестопанска цел Ending Tech-Enabled Abuse, сътвори запаси за жертви на deepfake и снабдители на услуги за жертвите от 2018 г. 

„ По мое мнение не бихме могли да улесним достъпа на неизискани хора до извънредно комплицирани принадлежности, предопределени да сексуализират и фетишизират дами и девойки онлайн “, сподели той. „ Без търсачките хората нямаше да имат достъп до уеб страниците и тези принадлежности. “

Додж сподели, че има вяра, че въздействието на надълбоко подправеното порно без единодушие е завалено и подценено, което води до банкрут на огромните софтуерни компании да предприеме самодейни дейности, с цел да го спре. Той подлага на критика отговора на Гугъл като „ прекачване на тежестта върху жертвата “, като кара жертвите да намерят обидните резултати от търсенето и да попълнят формуляра за недоволство.

„ За хората е мъчно да си показват вредите, които тази форма на корист предизвиква, че подправените изображения предизвикват същинска щета “, сподели Додж. „ Тази технология е взривоопасна, когато става въпрос за полово принуждение, учредено на изображения, тъй като прави жертви всички. Преди трябваше да има достоверно изображение или видеоклип. “

Додж и Кари Голдбърг, юрист от Ню Йорк, който е експерт по каузи за полова дискретност, и двамата споделиха, че имат вяра, че Гугъл има техническите благоприятни условия да да отстранява такова наличие от своите резултати въз основа на съществуващата си дарба да отстранява нездравословно наличие като материали със полово принуждение над деца и интимни изображения без единодушие.

„ Когато за първи път отворих компанията си през 2014 година, имаше тонове уеб страници с цитати за „ порно за възмездие “. Основният метод, по който жертвите са били открити в тези уеб страници, е посредством хора, търсещи името им в Google “, сподели Голдбърг. „ Отне години на Гугъл да сътвори политика и няколко години по-късно жертвите трябваше да преминат през този сложен развой на изпращане на тези формуляри, URL по URL. “

Изтощителният развой, разказан от Голдбърг за нейните клиенти, които са били жертви на основаване и шерване на същински полово очевиден материал без единодушие, отразява процеса, който Гугъл има за жертвите на подправен полово очевиден материал.

Говорител на Гугъл уточни по-нови процеси за жертвите както на интимни изображения без единодушие, по този начин и на дълбоки фалшификации без единодушие. За жертвите на действителни изображения без единодушие, сподели Гугъл, има метод да изискат полово намерено наличие да не се демонстрира въобще в резултатите от търсенето за техните имена. За deepfakes Гугъл сподели, че е въвела ограничения за дедупликация, които могат да отстранен наново качени изображения, които към този момент са били маркирани. Гугъл сподели, че същите ограничения за дедупликация съществуват и за други форми на полово принуждение, основано на изображения.

С deepfakes, сподели Голдбърг, част от казуса е опцията за бързо основаване на нов материал, който Гугъл не открива самодейно и не отстранява от листата.

Голдбърг сподели, че Гугъл и други търсачки могат да потискат уеб страници, които „ посредстват в порнография без единодушие и дълбоки фалшификации “ от резултатите от търсенето, което Гугъл и Bing са правили във връзка с други проблеми в предишното.

„ Търсачките са в позиция на власт. Нямаме доста търсачки “, сподели Голдбърг. „ Те могат да употребяват тази мощ за положително или за зло. Искам да ги насърча да бъдат героите в тази обстановка. "