Фалшиви експлозии, фалшиви ракети, фалшиви войски: AI видеоклипове и изображения от войната в Иран се разпространяват широко в социалните медии

Вижте всички тематики Връзката е копирана! Следвайте

След като Русия нахлу в Украйна през 2022 година, обществените медии бяха затрупани с груби имитации, които бяха показани като свежи изображения на войната, само че бяха или фотошопирани подправени, или погрешно обозначени клипове, взети от видеоигри, филми, минали произшествия и несвързани вести.

Тези типове старомодни имитации в този момент се популяризират още веднъж по време на войната против Иран. Този път към тях се причисли форма на машинация, която не беше елементарно налична през 2022 година: висококачествени видеоклипове и неподвижни изображения, които са основани по поръчка с лесни за потребление принадлежности за изкуствен интелект.

Преди 10 години, сподели Хани Фарид, Калифорнийски университет в Бъркли, професор, специализиращ в цифровата криминалистика, " щеше да има едно или две подправени неща там; те щяха да бъдат развенчани много бързо.... Сега виждате стотици от тях и те са в действителност реалистични. " Фарид добави: " Не е просто реалистично, това е кацане - кацане е мъчно. Хората имат вяра в това и го ускоряват. "

„ Това, което се промени през последната година или освен това, е, че генеративният AI стана доста по-широко наличен “, сподели старши журналистът на BBC Verify Шаян Сардаризадех, изтъкнат изобличител на имитации, свързани с войната, „ и към този момент е допустимо да се основават доста правдоподобни видеоклипове и изображения, показващи забележителен боен случай, който е мъчно да се открие с нетренирано или просто око. “

Фалшиви видеоклипове и изображения, които специалисти като Сардаризаде дефинираха като основани от AI, натрупаха десетки милиони гледания в платформите на обществените медии през съвсем две седмици от началото на войната в Иран.

Едно подправено видео демонстрира фиктивен залп от ирански ракети, за които се допуска, че удрят Тел Авив, Израел. Второ подправено видео изобразява паникьосани хора, бягащи от хипотетична иранска офанзива на летище в Тел Авив. Трето подправено видео има за цел да покаже покорен личен състав от специфичните сили на Съединени американски щати, държан на мушка от ирански войски.

Друго подправено видео твърди, че демонстрира клипове от фрагменти от охранителни камери на ирански военни уреди, които са взривени; три от клиповете наподобяват AI, до момента в който един е същински, само че от предходната година. Още едно подправено видео изобразява утопичен ескорт от американски бойци на територията на Иран. Още един фалшификат наподобява като фрагменти на свален американски аероплан, който минава през Техеран.

Междувременно подправени неподвижни изображения, които наподобяват основани от AI, настояват, че изобразяват американска военна база в Ирак и американското посолство в Саудитска Арабия, горящи след ирански атаки; Иранският висш водач Али Хаменей лежи мъртъв под развалините; и иранци, оплакващи мъртви цивилни. Публикация, обвързвана с иранското държавно управление, даже разгласява подправено сателитно изображение, което сякаш демонстрира вреди на американска военна база в Бахрейн.

И това е единствено дребна извадка от фалшификатите, свързани с Иран в обращение.

По-добри имитации, по-малко умереност

Въпреки ежедневните старания за развенчаване от хора като Сардаризаде, нови имитации се появяват доста по-бързо, в сравнение с могат да бъдат разрушени. Често са задоволително реалистични, тъй че елементарният човек, който превърта през емисията им, да не може бързо да забележи, че са подправени.

Няколко имитации, които се разпространиха необятно, бяха прокарвани като агитация от проирански сметки в обществените медии. Мотивацията зад основаването на доста от фалшификатите обаче е сложна за идентифициране - може би възгледите в обществените медии и въздействието и парите, до които от време на време могат да доведат, може би просто тъй като хората са съумели да ги създадат елементарно.

Все по-сложната машинация се хвърля в сложна среда за истината. Партизанската поляризация, медийната фрагментация и възходът на логаритмите на обществените медии значат, че доста американци са склонни да виждат най-вече материали, споделени от хора с сходно мислене. И Фарид означи, че фирмите за обществени медии са се отказали от агресивното модериране на наличието на своите платформи.

" Съдържанието е по-реалистично, силата на звука е по-висока, проникването е по-дълбоко - това е нашата нова действителност. И в действителност е объркана ", сподели Фарид.

Социалната медийна платформа X разгласи предходната седмица, че подхваща някои дейности за битка с фалшификатите на ИИ от военно време. Ръководителят на продуктовия отдел Никита Биер разгласява, че в случай че консуматори, които получават възнаграждение от X като „ основатели на наличие “, популяризират генерирани от AI видеоклипове на въоръжени спорове, без да разкриват, че видеоклиповете са направени с AI, те ще бъдат спрени от програмата за заплащане за 90 дни и по-късно ще бъдат спряни за непрекъснато, в случай че извършат спомагателни нарушавания.

Дори тази политика да се ползва прецизно — Фарид сподели, че е песимистичен — голямото болшинство от потребителите на X не са част от програмата за заплащане на създатели. (Публикациите от други консуматори към момента подлежат на краудсорсинг „ бележки на общността “ инспекция на обстоятелства, само че това има петнисти резултати.) Социалните медийни компании TikTok и Meta, които имат Фейсбук и Instagram, не дадоха отговор на настояванията на CNN за коментар по отношение на разпространяването на имитации, свързани с войната.

И Sardarizadeh отбелязва от месеци, че личният AI чатбот на X, Grok, интензивно е влошил казуса в някои случаи – неправилно казвайки на потребителите, търсещи инспекции на обстоятелствата, че голям брой основани от AI изображения и видеоклипове, в това число някои, изобразяващи войната в Иран, са действителни.

Как да не бъдете измамени

Честно казано, в наши дни е мъчно да се разграничи същинското от подправеното. Фарид сподели, че бързото възстановяване на качеството на творенията на AI значи, че препоръките отпреди месеци за това по какъв начин да разпознаете подправянето на AI не са потребни през днешния ден. Например, преди беше потребно да се ревизира дали човек на изображението има непотребни пръсти или погрешно сложени крайници; хората, показани в настоящото наличие на AI, нормално са свободни от тези видове комични неточности.

Фарид сподели, че най-хубавият метод да останете тъкмо осведомени е да изберете да получавате новините си от надеждни журналистически издания, вместо да превъртате изявления от „ инцидентни сметки “ в обществените медии. „ В моменти на световен спор “, сподели той, „ това не е място за приемане на информация. “