Реклами в Instagram и Facebook за приложение deepfake съблечеха снимка на 16-годишната Джена Ортега

Фейсбук и Instagram хостваха реклами, които включваха замъглено подправено голо изображение на малолетна звезда, употребявано за рекламиране на приложение, което се таксува като метод за основаване на полово очевидни изображения с изкуствен интелект.

Преглед на рекламната библиотека на Meta сподели, че компанията зад приложението е пуснала 11 реклами, употребяващи манипулирана, замъглена фотография на артиста от " Сряда " Джена Ортега, сниман, когато тя е била на 16 години. Рекламите се появиха на двете платформи, както и на приложението Messenger през по-голямата част от февруари. Приложението, наречено Perky AI, популяризира, че може да съблича дами с изкуствен интелект.

Рекламите демонстрират по какъв начин приложението Perky може да промени тоалета на Ортега на фотографията въз основа на текстови подкани, в това число „ латекс костюм “, „ долни дрехи на Батман “ и най-после „ Без облекла “.

Приложението даде обещание, че може да прави изображения „ NSFW “ — стенограма за „ не е безвредно за работа “ и значи голо или полово намерено.

Компанията посочен като разработчик на приложението Perky AI, се назовава RichAds. Уебсайтът на RichAds назовава компанията „ световна рекламна мрежа за самообслужване “, предлагаща на фирмите способи за основаване на „ ориентирани реклами “ и други типове изскачащи реклами и вести. Адресът на компанията е в Кипър и компанията не отговори на искане за коментар.

След като NBC News се свърза с Meta, тя спря страницата на приложението Perky, която работеше повече от 260 разнообразни реклами в платформите на Meta от септември. Не е ясно какъв брой хора са гледали рекламите, само че една от рекламите на Ортега в Instagram има над 2600 гледания. Тридесет от тези реклами преди този момент бяха спрени, защото не дават отговор на рекламните стандарти на Meta, само че не и тези, които демонстрират малолетната фотография на Ортега. NBC News не можа да види рекламите, които Meta към този момент спря. Някои от другите скорошни реклами на приложението Perky, които Мета не смъкна, до момента в който NBC News не се свързаха, включваха фотография на певицата Сабрина Карпентър, направена, когато тя беше при започване на 20-те си години, дружно със същото изказване, че я кара да наподобява гола. Представители на Ортега и Карпентър не дадоха отговор на настояванията за коментар.

„ Meta строго не разрешава детска голота, наличие, което сексуализира деца, и услуги, предлагащи генерирани от AI голи изображения без единодушие, “ Райън Даниелс, представител на Meta, сподели в изказване.

Apple също отстрани приложението Perky, което беше рекламирано от своя App Store, откакто NBC News се свърза с него. Приложението наподобява не е налично в Гугъл Play.

Не е ясно дали приложението Perky е съумяло да пуска реклами на други платформи, защото множеството компании не архивират обществено своите реклами като Meta го прави.

Рекламите са част от възходящата рецесия онлайн, където подправените голи изображения на девойки и дами, както и подправените видеоклипове с очевиден полов темперамент, се разпространиха необятно с помощта на възходящата наличност на принадлежности като този, разпознат от NBC News. През 2023 година са били оповестени повече видеоклипове с очевиден полов генезис без единодушие, в сравнение с всяка друга година взети дружно, съгласно без значение изследване на анализатора на deepfake Genevieve Oh и MyImageMyChoice, група за покровителство на жертвите на deepfake. Същото проучване откри, че Ортега е измежду 40-те най-насочвани жени-знаменитости в най-големия уеб страница за deepfake.

Миналата седмица полицията в Бевърли Хилс, Калифорния, стартира следствие на възпитаници от междинното учебно заведение, които учат чиновници споделиха, че употребяват такива принадлежности, с цел да създадат подправени голи фотоси на свои също толкоз млади съученици. NBC News също заяви предходната седмица, че някои водещи резултати от търсенето с Гугъл и Bing включват манипулирани изображения, изобразяващи детски лица върху голи възрастни тела.

Изображения и видеоклипове, които подправено изобразяват хора като голи или участващи в очевидно полови прояви държание циркулират онлайн в продължение на десетилетия, само че с потреблението на принадлежности с изкуствен интелект такива материали наподобяват по-реалистично и са по-лесни за основаване и разпространяване от всеки път. Когато подвеждащите медии се основават с изкуствен интелект, те постоянно се назовават ​​„ deepfake “.

Неконсенсусните полово очевидни deepfakes са най-вече ориентирани към дами и девойки. Възрастните жертви са изправени пред правна сива зона, до момента в който отбраната против компютърно генериран полово очевиден материал на деца не постоянно е била прилагана.

Apple няма никакви правила за надълбоко подправени приложения, само че нейният App Store насоките не разрешават приложения, които включват порнография, както и приложения, които основават „ клеветническо, дискриминационно или подло наличие “ или са „ евентуално да унижат, сплашат или навредят на целево лице или група “.

Според Apple, приложението Perky AI към този момент е било отхвърлено от App Store на 16 февруари за нарушение на разпоредбите по отношение на „ очевидно полови или нецензурен материали “. Приложението беше под 14-дневен интервал на обзор, когато NBC News се свърза с него, само че към момента беше налично за евакуиране и потребление през това време. Оттогава Apple съобщи, че е премахнала приложението Perky от своя магазин и е спряла компанията зад него от своята стратегия за разработчици.

Приложението към момента може да се употребява от хора, които към този момент са го изтеглили. Таксува $7,99 на седмица или $29,99 за 12 седмици. Когато NBC News се опита да употребява приложението, с цел да редактира фотография, се изисква заплащане, с цел да се видят резултатите. Преди да бъде отстранено от App Store на Apple, приложението имаше оценка от 4,1 звезди с 278 отзива.