Фалшиви новини Създателите на YouTube се насочват към чернокожи знаменитости с дезинформация, генерирана от AI
Видеоклипове в YouTube, използващи комбинация от генерирани от изкуствен интелект и манипулирани медии за създаване на фалшиво съдържание, наводниха платформата с непристойна дезинформация за десетки чернокожи известни личности, включително рапъра и изпълнителен директор на звукозаписа Шон “Диди” Комбс, телевизионния водещ Стив Харви, актьора Дензъл Уошингтън и Бишоп Т. Д. Джейкс. от скорошни съдебни дела за изнасилване и сексуален трафик срещу Комбс, включително нашумял случай, уреден между него и изпълнителката Касандра „Каси“ Вентура. Други видеоклипове замесват фигури като Джейкс в обвиненията срещу Комбс без доказателства и използват манипулирани медии, за да изобразят знаменитости, участващи в непристойни действия и преувеличени прояви на емоции във видео миниатюри.
NBC News прегледа дузина канали в YouTube, публикуващи нещо, което изглежда е генерирано от AI фалшиво новинарско съдържание за чернокожи знаменитости. Много от прегледаните видеоклипове са примамка за кликване, което означава, че заглавията и миниатюрите на видеоклипове в YouTube показват разкази или твърдения, които не са в самите видеоклипове. Някои от видеоклиповете имат милиони гледания, а средният брой комбинирани гледания за всеки канал е 21 милиона.
В изявление за NBC News, говорител на YouTube каза, че платформата е прегледала и предприела редица действия по няколко от каналите, за които е сигнализирала, „включително прекратяване на три канала за нарушаване на нашите Условия за Услуга, премахване на допълнителни канали от нашата програма за осигуряване на приходи и премахване на редица видеоклипове и миниатюри.“
„Правилата на общността на YouTube определят правилата за това какво е и какво не е позволено на нашата платформа, включително съдържание, което съдържа целенасочен тормоз или нежелано сексуализиране“, се казва в изявлението.
Съдържанието процъфтява преди и след действията на YouTube. Анджелика Нванду, основател и главен изпълнителен директор на The Shade Room - един от най-големите онлайн източници на новини за черна култура, с над 28 милиона последователи в Instagram - каза, че проблемът с генерираното от AI и друго фалшиво новинарско съдържание за чернокожи знаменитости се е превърнал в проблем за нея екип от миналата година.
„Виждали сме тези страници, които изскачат в YouTube или TikTok и ще имат генерирана от AI снимка на Риана, плачеща за A$AP [Rocky] отивам в затвора и това е напълно фалшиво“, каза Нванду. „Нашата публика ще изпрати DM и ще каже „Защо не публикувате тази новина?“ „Защо не отразявате тази история?“, Защото вярва на тези страници.“
Видеоклиповете за чернокожи знаменитости често са свързани с реални, шокиращи и скандални събития в новините. Чрез ремиксиране на истински новини с невярна информация и твърдения, видеоклиповете могат бързо да придобият популярност, като изглежда, че предоставят нова информация за теми, които вече привличат вниманието.
Потопът от манипулирано и генерирано от изкуствен интелект фалшиво съдържание в YouTube съвпада с набезите на компанията-майка Google в генеративната AI технология, както и с нарастващите страхове относно усилията за дезинформация, насочени към изборите през 2024 г. по целия свят. YouTube обяви през ноември, че планира да наложи нова политика, изискваща етикети за синтетични и манипулирани медии във видеоклипове. Тази система все още не е въведена.
Може да е трудно да се направи разлика между медии, генерирани от AI, и медии, които се манипулират без използването на AI (понякога наричани „евтини фалшификати“) . Един от дузината канали, разгледани от NBC News, отговори на искане за коментар. В имейл човек, представляващ канала, който се фокусира върху новини за знаменитости, каза, че използва „технология за преобразуване на текст в говор с изкуствен интелект“ за някои видеоклипове, но отрече да използва AI инструменти за скриптовете, които се четат на глас, или миниатюрите. Смята се, че генерираната от AI гласова технология е била използвана във фалшиво автоматизирано обаждане на президента Джо Байдън, което каза на демократите от Ню Хемпшир да не гласуват на първичните избори през януари.
Адвокат, представляващ Джейкс, проповедникът на мегацърквата в Тексас, който беше целта на някои от видеоклиповете, каза пред NBC News, че Джейкс е само последният виден човек, който е бил обект на фалшива и невярна информация в YouTube. Джейкс призна вирусното фалшиво съдържание в проповед миналия месец, като каза: „Всички вие, които очаквате да обърна внимание на лъжа, можете да излезете.“
Търсене в YouTube за „TD Jakes ” показва фалшиво съдържание, което изглежда използва генеративни AI инструменти за озвучаване в първите пет резултата от търсенето. Експерт по откриване на дълбоки фалшификати, Siwei Lyu, професор по компютърни науки и инженерство в университета в Бъфало, пусна аудиото от два от видеоклиповете в резултатите от търсенето за Jakes чрез модел на AI Speech Classifier с отворен код, разработен от изследователи на AI в университета на Сеул в Южна Корея. Моделът установи, че аудиото от едно видео е с повече от 87% вероятност да е генерирано от AI и че аудиото във второто видео е с повече от 90% вероятност да е генерирано от AI. YouTube спря канала, отговорен за съдържанието в резултатите от търсенето, от своята програма за монетизиране, което означава, че вече не може да печели от своите видеоклипове.
Но каналите в YouTube, разчитащи на това, което изглежда поне отчасти генерирано от изкуствен интелект съдържание, продължават само да бълват шокиращи, фалшиви разкази за Джейкс, Комбс и други. Някои видеоклипове имат реклами, което показва, че те печелят приходи за своите създатели. Тъй като някои от видеоклиповете с фалшиви новини могат да генерират голямо гледане и ангажираност, те също така се класират по-високо алгоритмично в резултатите от търсенето и препоръчаното съдържание - алгоритмите на YouTube и Google също се управляват от AI.
Видеоклип в YouTube, публикуван на 14 януари, озаглавен „ИЗКЛЮЧИТЕЛНИ НОВИНИ: Диди е признат за ВИНОВЕН И АРЕСТУВАН по делото на Тупак!“ има над 100 000 гледания. Миниатюрата показва Комбс с изкривено от мъка лице до изображение на полицай, който го ескортира под ръка. Търсене в Google за „Диди арестуван“ върна видеото като най-добрия резултат.
Но Комбс не беше арестуван на 14 януари. Той беше арестуван през 2015 г. — не за убийството на Тупак Шакур, а по подозрение за нападение със смъртоносно оръжие при инцидент в UCLA , откъдето е част от видеото в YouTube от 14 януари (прокурорите отказаха да повдигнат обвинения във връзка с ареста от 2015 г., а адвокатът на Комбс коментира по това време, че е „благодарен“, че обвиненията не са били повдигнати).
Lyu също пусна видеото от 14 януари през същия модел за откриване на AI. Моделът установи, че има над 98% вероятност да е генериран от AI. Лю каза, че моделът за откриване на AI идентифицира елементи, забележими в синтетичното аудио, които не присъстват в аудио от реални гласове.
Reality Defender, платформа за откриване на AI, която предлага на пазара своите модели за откриване, също пусна миниизображението на видеоклипа от 14 януари и 28 секунди от аудиото му чрез програми за откриване на AI и намери гласа и части от миниизображението е 99% вероятно да бъдат произведени с генеративни AI инструменти. (Comcast, компанията-майка на NBCUniversal, е инвеститор в Reality Defender.)
Изпълнителният директор на Reality Defender Бен Колман каза, че програмите на компанията за откриване на AI оценяват пикселите в изображенията, за да намерят аномалии, които показват AI използвани са инструменти. Използването на такива инструменти може да доведе до това изображението да изглежда твърде гладко, каза Колман, когато трябва да има остри контури около различни обекти в реална картина. Подобни манипулирани изображения бяха постижими преди AI с инструменти за редактиране на снимки, но сега са автоматизирани с помощта на AI.
„Това, което виждаме с генеративните инструменти, е експоненциално увеличение на способността и лекота на манипулация“, каза Колман.
Каналът в YouTube, който публикува видеото, е активен само от година. Той е публикувал над 750 видеоклипа с над 20 милиона комбинирани гледания. YouTube не предприе действия срещу канала, след като NBC News го отбеляза.
„Те използват жаргона на културата, жаргона на културата, защото чернокожите хора се доверяват на черните медии“, Нванду казах. „Има дългогодишно недоверие към масовите медии по отношение на начина, по който се разказват нашите истории.“
Фалшиво, манипулирано и генерирано от AI съдържание се разпространява в YouTube от години, но напоследък технологичното развитие и интересът към алтернативни източници на новини създадоха нарастващ стимул за производство на такова съдържание, което заплашва информационните екосистеми.
Два от 12-те канала, публикуващи нещо, което изглежда е генерирано от изкуствен интелект, фалшиви новинарски видеоклипове за чернокожи знаменитости, прегледани от NBC News, започнаха като канали за преглед на технологии, публикувайки видеоклипове, които изглежда не съдържат никакви Съдържание, генерирано от AI. След като публикуваха няколко видеоклипа, всеки от които получи под 1000 гледания, двата канала се насочиха към отразяване на непристойни, фалшиви истории за чернокожи знаменитости. Единият канал вече има над 20 милиона гледания, а другият има над 5 милиона. YouTube прекрати един от тях.
Други два канала от 12-те, прегледани от NBC News, имаха имейл адреси, свързани с Crealon Entertainment, дигитална издателска компания, базирана в Швеция, която управлява множество други акаунти в YouTube с работата на свободни професии. Според страницата на Crealon в LinkedIn, той наема „Rap Writer“ фрийлансър, базиран в САЩ, и „Video Editor for Rap свързан YouTube Channel“ фрийлансър, базиран в Индия. Crealon също така наема дизайнери на миниатюри на свободна практика и фрийлансъри за канали в YouTube, свързани с истински престъпления. Компанията не отговори на искане за коментар. YouTube прекрати и двата канала, отбелязани от NBC News, които бяха свързани с Crealon, като добави, че те заобикалят предишно прекратяване на канал.
NBC News също идентифицира пет канала в YouTube за черни новини и култура, които са реални хора, които се появяват във видеоклиповете, но реагират на и събират информация от видеоклиповете с фалшиви новини.
Изследователят Джонатан Олбрайт откри десетки хиляди новинарски видеоклипове, генерирани от изкуствен интелект, в YouTube през 2017 г. По това време такива видеоклипове обикновено бяха кратки и несложни и имаха сравнително малко привличане – дори най-гледаните видеоклипове, които Олбрайт гледаше, имаха под 10 000 гледания, а някои нямаха нула. Видеоклиповете ще включват изкуствено звучащ глас, който чете копие от новинарски статии върху слайдшоу от снимки, взети от цялата мрежа.
Оттогава някои от видеоклиповете се развиха и получиха милиони гледания. Преди делото срещу Комбс, някои от каналите, идентифицирани от NBC News, направиха десетки видеоклипове за процеса за клевета между Джони Деп и Амбър Хърд през 2022 г., които използваха манипулирани медии и невярна информация, за да представят Хърд в негативна светлина. Един такъв видеоклип, с миниатюра, показваща колегата на Хърд от „Аквамен“ Джейсън Момоа до нея в съдебната зала (той никога не се появи по време на процеса), имаше само над 8 милиона гледания. Каналът, който го публикува, оттогава се насочи към отразяване на чернокожи знаменитости.
„Това, което ме вълнува, е, че не се прави много,“ каза Нванду. „Много от тези страници могат да процъфтяват за дълъг период от време и да генерират масивни изгледи без каквато и да е сваляне.“
Кат Тенбардж
