AI видеоклипове на сексуализирани чернокожи жени бяха премахнати от TikTok след разследване на BBC

TikTok забрани 20 акаунта, откакто BBC акцентира потреблението на генерирани от AI черни авторитетни дами за ориентиране на потребителите към уеб сайтове, популяризиращи полово намерено наличие.

Те са част от възходяща наклонност на сметки в Instagram и TikTok, които са подложени на критика като расистки, експлоатиращи и подвеждащи заради расови тропи и употребен език.

BBC и откриватели от самостоятелния AI изданието Riddance откри десетки сметки на двете платформи, включващи мощно сексуализирани черни женски цифрови герои или аватари.

Изображенията и видеоклиповете са генерирани от AI, само че не са етикетирани като такива, в явно нарушаване на напътствията на платформите.

Почти всички сметки бяха в Instagram, а към една трета също имаше версии в TikTok. Компанията майка на Instagram Meta сподели на BBC, че проверява, само че не сподели, че е подхванала никакви дейности.

Аватарите постоянно се демонстрират облечени в нищожни бански костюми или други разкриващи се облекла и изобразени с пресилени форми на тялото.

Някои имат извънредно тъмни тонове на кожата, които са цифрово манипулирани, придавайки им неестествен тип.

Имената на сметките включват термини като „ черно “, „ ноар “, „ мрачно “ и „ абанос “. Няколко включват мнения за бели мъже в изявленията си, като „ обича бели мъже “ и „ за какво нуждая се от бял човек в живота си “. Много от сметките следват или се харесват един различен.

BBC, работейки в съдействие с анализаторите Джереми Караско и Анджел Нулани от Riddance, разпознава 60 такива акаунта, основно в Instagram, които носят връзки или вериги от връзки към платено полово намерено наличие на уеб сайтове на трети страни. Сайтовете отбелязаха изображенията като генерирани от AI, само че сметките в Instagram не го направиха.

Изследването също по този начин разпознава доста повече сметки както в Instagram, по този начин и в TikTok с сходни генерирани от AI аватари, които не свързват платено наличие.

„ Бях ядосан'

Един от сметките, затворени от TikTok - макар че към момента работеше в Instagram все още на публикуването - провокира спомагателен яд посредством кражба на видеоклипове от действителни хора.

Той е показан като акаунт на изумителен воин, генериран от AI и е натрупа три милиона почитатели в границите на няколко седмици след основаването си през декември.

Но модифицира и разгласява видеоклипове от същински основател на наличие, Рия Улан, модел, основан в Малайзия.

Лицето на аватара, което има извънредно мрачен, изкуствено основан цвят на кожата, е насложен върху тялото на Рия и придвижванията, облеклото и фонът на Рия са възпроизведени.

" Бях ядосана ", сподели Рия пред BBC. „ Разбира се, всичките ми видеоклипове са там… Това не значи, че можете просто да го вземете, да го откраднете и да го публикувате като собствен личен. “

Един от манипулираните видеоклипове доближи над 35 милиона гледания в TikTok и 173 милиона в Instagram, към 47 пъти повече от гледанията на истинския пост на Рия.

Докато трите видеоклипа, които ясно съответстват със наличието на Riya, не са полови, други видеоклипове в акаунта с AI, употребяващи същия цифрово основан воин, го демонстрират в разкриващи облекла или осъществяване на провокативни дейности. Верига от връзки от акаунта води до платено наличие за пълнолетни.

" Не съм сигурна дали се тормозя повече от това, че употребяват видеоклипа ми, с цел да разпространяват експлицитното си наличие, или [че] хората в действителност имат вяра в това ", споделя тя.

Става все по-трудно за потребителите да схванат дали наличието е същинско и „ хората не престават да си падат по тези AI модели “, прибавя тя.

Много фенове наподобява третират аватарите като същински, макар нереалистичните им характерности. В изявления или истории в Instagram някои от сметките отхвърлят ​​да употребяват AI, в това число този, който е взел наличието на Рия.

Рия споделя, че е докладвала няколко пъти за акаунта и на двете платформи, само че по това време наличието не е отстранено. TikTok го забрани, откакто BBC се обърна към него за коментар.

'Нереалистични изображения'

" Вярвам, че тези сметки са расистки, тъй като тяхното битие увековечава дълга история на употребата на чернокожите ", споделя Нулани, един от откриватели.

" Тяхното потребление на карикатури, терминология за спортни игри и нереалистични изображения на чернокожи дами потвърждават, че те не са загрижени за нашата сигурност или благоденствие, а за способността ни да бъдем капитализирани като част от онлайн порно машината ", прибавя тя.

Carrasco, който подлага на критика трендовете и техниките на AI в своите сметки в обществените медии, споделя, че „ новото е количеството безсрамни, расистки изображения на извънредно чернокожи хора ".

Въпреки че „ този култ “ може да е съществувал в предишното, AI „ му дава нова покупка “, споделя той. Той изяснява, че AI улеснява премахването на полутонове в изображения и видеоклипове, с цел да сътвори тъмни тонове на кожата, които не са естествени, и да сътвори резултати, които преди този момент биха претендирали анимация или изобразяване на кожата.

Също по този начин, споделя той, няма обществени последици за един аватар: „ Няма срам… това е нещо неповторимо за AI подвизи. "

Houda Fonone, марокански модел и основател на наличие, който се застъпва за по-автентично показване на черни дами, споделя, че наклонността е за „ заличаване “.

„ Копринена коса, извънредно тънки тела и необикновено безупречна кожа… като че ли черната хубост може да бъде призната единствено когато е „ изтънчена “.

Тя споделя, че това рискува да затвърди стандартите, до момента в който „ нашите истории и прекарвания от действителния живот са сменени от неестествен облик “.

BBC изпрати Meta и TikTok образци за сметките, които идентифицирахме, и поискахме техните отговори.

Два дни по-късно представител на TikTok сподели на BBC, че компанията е „ премахнала наличие и е забранила сметки, които нарушават нашите правила “.

В рамките на няколко дни 20 акаунта са били е етикетирано като „ неразрешено “ в приложението.

" TikTok не разрешава генерирано от изкуствен интелект наличие на лица, употребявано без тяхно позволение, имаме нулева приемливост към наличие, което разпространява полови услуги отвън платформата ", сподели представителят.

Компанията споделя, че не разрешава и отстранява наличие, генерирано от AI, което е нездравословно или подвеждащо, и изисква потребителите да маркират реалистично генерирано от AI наличие. Той сподели, че също по този начин е приложил вярно етикетиране към редица видеоклипове.

Meta сподели, че изследва наличието, предоставено на вниманието му.

Той споделя, че желае потребителите да знаят, когато гледат изявления, които са направени с AI, и че има въведени политики за етикетирането наличие, генерирано от AI. Девет акаунта в Instagram, които BBC наблюдава, наподобява към този момент не съществуват.

Нито една от платформите не даде детайлности за отговора си на първичните отчети на Riya.

Как AI може да промени публичните услуги в Шотландия?

Министрите предвиждат детонация в AI и желаят да извлекат изгодите за услугите и стопанската система.