Видеоклиповете за война в Иран, генерирани от AI, нарастват, тъй като създателите използват нова технология, за да печелят пари

Безпрецедентна вълна от генерирана от AI дезинформация за войната сред Съединени американски щати и Израел с Иран се монетизира от онлайн основатели с все по-голям достъп до генеративна AI технология, споделиха специалисти пред BBC Verify.

Нашият разбор откри многочислени образци за генерирани от AI видеоклипове и изфабрикувани сателитни изображения, употребявани за правене на погрешни и подвеждащи изказвания за спора, които групово са натрупали стотици милиони гледания онлайн.

" Мащабът е в действителност обезпокоителен и тази война направи невероятно да бъде подценена в този момент ", споделя Тимъти Греъм, специалист по цифрови медии в Технологичния университет в Куинсланд.

" Това, което преди изискваше професионална видео продукция, в този момент може да се направи за минути с AI принадлежности. Бариерата пред основаването безапелационните синтетични фрагменти от спорове всъщност се сринаха “, споделя той.

Съединени американски щати и Израел започнаха да нанасят удари против Иран на 28 февруари. В отговор Иран стартира офанзиви с дронове и ракети против Израел, както и против голям брой страни от Персийския залив и американски военни активи в района.

Мнозина се обърнаха към обществените медии, с цел да търсят и споделят най-новата информация и да осмислят една бързо разрастваща се седмица на спор.

Платформа X разгласи тази седмица, че краткотрайно ще спре основателите от своята стратегия за обезпечаване на доходи, в случай че разгласяват генерирани от AI видеоклипове на въоръжени спорове без етикет.

Схемата възнаграждава отговарящи на изискванията консуматори, чиито изявления основават огромен брой гледания, лайкове, споделяния и мнения с заплащания от платформата.

" Забележителен сигнал е, че са забелязали, че това е огромен проблем ", споделя Махса Алимардани, откривател, специализиращ в Иран в Оксфордския интернет институт.

Попитахме TikTok и Meta, компанията на Фейсбук и Instagram, дали имат намерение да подхващат сходни дейности, само че те не дадоха отговор на нашите претенции за коментар.

Типичен образец за видеоклип, генериран от изкуствен интелект, който BBC Verify наблюдава, наподобява демонстрира по какъв начин ракети удрят град Тел Авив в Израел, до момента в който звукът от детонации звучи на назад във времето.

Този видеоклип е показан допълнително от 300 изявления, които по-късно са били споделени десетки хиляди пъти в платформите на обществените медии.

Някои консуматори на X се обърнаха към AI чатбота на платформата Grok, с цел да потвърдят достоверността на видеото. Но в доста случаи, забелязани от BBC Verify, Grok неправилно настояваше, че генерираното от AI видео е същинско.

Друго подправено видео, гледано десетки милиони пъти, твърди, че демонстрира небостъргача Burj Khalifa в Дубай в пламъци, до момента в който навалица от хора наподобява тича към постройката.

Тези фрагменти, генерирани от изкуствен интелект, се разпространиха необятно онлайн във време на забележителна угриженост от страна на жителите и туристите по отношение на ударите с дронове и ракети над града.

" Фалшиви видеоклипове като тези имат пагубно влияние върху доверието на хората в тестваната информация, която виждат онлайн и я вършат доста по-трудно е да се документират действителни доказателства “, споделя Алимардани.

Нова характерност на този спор, оценена от BBC Verify, е появяването на сателитни изображения, генерирани от AI.

Проверихме голям брой действителни видеоклипове, показващи удари с ирански дронове и ракети против Съединени американски щати Щабът на Пети флот на Военноморски сили в Бахрейн в първия ден от спора.

Изфабрикувана фотография, споделена на X от обвързвания с страната вестник The Tehran Times, стартира да се популяризира на идващия ден и твърди, че демонстрира огромни вреди въз основата.

The подправеният наподобява се основава на действителни сателитни изображения на американска военноморска база в Бахрейн, направени през февруари 2025 година, които са обществено налични онлайн.

Според детектора на воден знак SynthID на Гугъл подправеното изображение е генерирано или редактирано с инструмент на Гугъл AI.

Три транспортни средства, паркирани извън, също са на едно и също място както в истинските сателитни изображения, по този начин и в фотографията с изкуствен интелект - макар че фотосите са направени с период от една година.

Инструментите на Гугъл за изкуствен интелект, в това число неговия видео генератор Veo, са в възходящия лист с известни платформи за изкуствен интелект, като модела Sora на OpenAI, китайски AI приложение Seedance и Grok, което е вградено в X.

„ Броят на другите принадлежности, които в този момент са налични за основаване на необятен набор от мощно реалистични AI операции, е невиждан “, споделя Хенри Айдер, специалист по генеративен AI.

„ Ние в никакъв случай не съм виждал тези принадлежности толкоз налични, толкоз лесни и толкоз евтини за потребление “, споделя той.

Това докара до скок на генерирано от AI наличие онлайн, „ защото тръбопроводът към обществените медии към този момент може да бъде съвсем изцяло автоматизиран “, споделя Виктоар Рио, изпълнителен шеф на организацията с нестопанска цел What To Fix за софтуерна политика.

Ръководителят на продуктовия отдел на X сподели във вторник, че " 99% " от сметките, разпространяващи видеоклипове, генерирани от изкуствен интелект като тези, се пробват да " монетизират играта " посредством издание на наличие, което ще генерира огромно количество ангажираност в подмяна на заплащане посредством програмата за шерване на приходите на основателите на приложението.

Платформата не разгласява какъв брой акаунта са част от програмата или какъв брой пари могат да създадат.

Но Греъм пресмята, че X може да заплати към „ осем до 12 $ на милион тествани потребителски импресии “.

„ Създателите би трябвало да достигнете пет милиона органични импресии за три месеца, плюс притежавайте X премиум абонамент, с цел да отговаряте на изискванията “, добави той.

„ След като влезете, вирусното наличие, генерирано от AI, е главно принтер за пари “, споделя той. „ Те са построили най-хубавото дружество за дезинформация. “

X не отговори на молбата ни за коментар или на въпросите ни по отношение на програмата за шерване на приходите на основателите.

Експерти споделиха на BBC Verify, че до момента в който доста компании за обществени медии споделят, че се пробват да трансформират своите системи за модериране и разкриване, с цел да се оправят с мащаба и скоростта, с която се популяризира наличието, генерирано от AI, няма просто решение на казуса.

" По-дълбокият проблем е, че стимулираната от ангажираност монетизация и точната информация са фундаментално в напрежение и нито една платформа не е разрешила изцяло това напрежение или може би в миналото ще го направи ", споделя Греъм.