Как AI фалшификатите превръщат сателитни изображения във военна дезинформация

Сателитни изображения, които наподобява са генерирани или модифицирани с AI, бяха споделени необятно в обществените медии през уикенда, наблягайки заплахите от технологията като евентуално средство за дезинформация по време на война.

Изображение, публикувано на X — в това число в обява от формалния акаунт на иранския вестник Tehran Times — демонстрира сателитно изображение, което твърди, че изобразяват щета на американска радарна система в Катар след удар на ирански дрон.

Анализът на FT разкрива, че това е променено от AI изображение на регион в Бахрейн. Видеозаписите, тествани от FT, демонстрират няколко удара в региона към радарната система в Бахрейн, а сателитните изображения, снимани от Planet Labs на 1 март, удостоверяват, че обектът е бил развален.

Но изображението на заличавания радар демонстрира признаци на операция: транспортни средства, които се появяват на фотографията „ преди “, направена преди повече от година, остават в същата позиция, сенките падат тъкмо под същия ъгъл като в по-ранното изображение и елементи от структурата на постройката са изменени. Историческите сателитни изображения не демонстрират структурни промени в уеб страницата от доста години.

По време на публикуването единствено обявата на Tehran Times имаше съвсем 1 милион гледания, беше споделена хиляди пъти и остана онлайн повече от 48 часа след публикуването. FT откри случаи на шерване на изображението в други обществени медийни платформи и уеб страници.

Епизодът отразява по-широка смяна в осведомителната война, защото генеративният AI улеснява изработването на безапелационни образни доказателства и по-трудно за публиката да прави разлика сред документи и машинация.

В отговор на вълната от подправени видеоклипове, циркулиращи в платформата, ръководителят на продукта на X Никита Биер разгласява във вторник, че компанията ще усили напъните си за ограничение на генерираното от AI наличие. На потребителите, за които е открито, че споделят материали без съответно откриване, ще бъде неразрешено да печелят доходи за 90 дни, а повторните извършители ще бъдат изправени пред непрекъснато прекъсване, сподели Биър.

Брейди Африк, самостоятелен откривател на разузнаването с отворен код и шеф за връзки с медиите в American Enterprise Institute, сподели, че хората са склонни да се доверяват на сателитните изображения като източник на истина заради комплицираната технология, употребена за снимането им.

„ Сателитните изображения могат да бъдат манипулиран тъкмо като други изображения, AI направи всичко това извънредно по-лесно и [то] съставлява забележителна опасност за хората, които се пробват да получат информация онлайн “, сподели Africk. Той добави, че се тревожи, че бързото възстановяване на тези модели единствено ще направи фалшификатите по-трудни за разкриване в бъдещи спорове.

Трудността при идентифицирането на манипулирано сателитно изображение, спрямо надълбоко подправяне на човек, е „ липса на биометрични данни “, съгласно Хенк ван Ес, специалист по онлайн проучвателен способи и създател на бюлетина Digital Digging.

„ С лице можете да търсите необичайно намигване, неестествена текстура на кожата, деформирани уши “, сподели той. " Със сателитно изображение вие гледате здания, пътища, терен - неща, които нямат тези присъщи знаци. И множеството хора нямат визия по какъв начин би трябвало да наподобява същинско сателитно изображение от съответен датчик при избрана разграничителна дарба ", сподели той.

" Ключовата смяна е следната: преди беше нужна държавна разследваща организация с умения във Photoshop, с цел да фалшифицира сателитно изображение. Сега всеки, който има достъп до свободно налични AI принадлежности, може сътвори нещо задоволително безапелационно, с цел да заблуди инцидентните фенове и да реалокира пазарите, се срина “, добави ван Ес. Друго необятно публикувано изображение, променено от AI, наподобява е увеличена, цветна версия на черно-бяло изображение, снимано от Airbus, аерокосмическата компания. Не е ясно от кое място произлиза подправеното изображение. Изображението беше снабдено с воден знак с името на MizarVision, китайска галактическа компания, която разгласява сателитни фотоси на натрупването на американска войска в Близкия изток през последните седмици, само че изображението не е посочено на личните страници на компанията в обществените медии.

Официалната страница на MizarVision сега съдържа предизвестие за сметки в обществените медии, които настояват, че популяризират нейните изображения. MizarVision и Tehran Times не дадоха отговор на претенции за коментар.

Използването на AI за прибавяне на цвят към сателитни изображения може тънко да промени метода, по който хората гледат на сцената, въвеждайки възприемани разлики, които в действителност може да не съществуват, съгласно Бо Джао, професор по цифрови географии във Вашингтонския университет.

„ Черно-белите изображения не съдържат елементи и вероятност на нещата или разликите на земята, “ Джао изясни. „ С цвят става по-лесно да се разграничат. “

Други медии, генерирани от AI, също бяха необятно споделени, в това число изображение, подчертаващо хипотетичните вреди на американска база покрай Ербил, Ирак. Подобреното с изкуствен интелект изображение демонстрира вилнеещ огън и голям облак пушек и още веднъж съдържа структурни несъответствия в съпоставяне със скорошни изображения, направени на това място.

Публикация, в която се твърди, че демонстрира тялото на висшия водач на Иран аятолах Али Хаменей, извадено отдолу под руините, беше споделена, само че остава непроверена и също наподобява генерирана от изкуствен интелект. 

Конфликтът в Близкия изток не е първата война, наранена от дезинформация, ръководена от AI. Имаше известия за подправени сателитни изображения след четиридневния спор сред Индия и Пакистан предходната година и сходни изказвания бяха направени по време на войната Украйна-Русия.

„ Мисля, че значително това е въпрос на обучение и информираност във връзка с това да се уверим, че допустимо най-вече хора са наясно с методите, по които цифровите медии могат да бъдат манипулирани “, сподели Африк. „ Хората би трябвало да бъдат доста непреклонни в намирането на доверени източници, които работят в очите на обществеността и го вършат отговорно. “

Допълнителен отчет от Крис Кук