Deepfakes подвеждат гласоподавателите на изборите в Бангладеш

Политиците по света се тревожат за това как генерираната от изкуствен интелект дезинформация може да бъде използвана, за да се опитат да подведат гласоподавателите и да разпалят разделенията преди няколко големи избори следващата година.

В една държава това вече се случва: Бангладеш.

Южноазиатската нация от 170 милиона души се насочва към урните в началото на януари, състезание, белязано от горчива и поляризираща сила борба между действащия министър-председател Шейх Хасина и нейните съперници, опозиционната Бангладешка националистическа партия.

Проправителствени новинарски издания и влиятелни лица в Бангладеш през последните месеци популяризираха генерирана от AI дезинформация, създадена с евтини инструменти, предлагани от изкуствен интелект стартиращи фирми.

В един предполагаем новинарски клип водещ, генериран от AI, критикува САЩ, страна, която правителството на Шейх Хасина критикува преди изборите. Отделно дълбоко фалшиво видео, което впоследствие беше премахнато, показа опозиционен лидер, двусмислен относно подкрепата за жителите на Газа, потенциално пагубна позиция в страната с мюсюлманско мнозинство със силна обществена симпатия към палестинците.

Общественият натиск нараства технологични платформи за справяне с подвеждащото AI съдържание преди няколко големи избори, очаквани през 2024 г., включително в САЩ, Обединеното кралство, Индия и Индонезия. В отговор Google и Meta наскоро обявиха политики, за да започнат да изискват кампаниите да разкриват, ако политическите реклами са били дигитално променени.

Но примерите от Бангладеш показват не само как тези AI инструменти могат да бъдат използвани при избори, но и трудността при контролирането на използването им на по-малки пазари, които рискуват да бъдат пренебрегнати от американските технологични компании.

Miraj Ahmed Chowdhury, управляващ директор на базираната в Бангладеш медийна изследователска фирма Digitally Right, каза, че докато генерираната от AI дезинформация е „все още на експериментално ниво“ — като повечето са създадени с помощта на конвенционални платформи за редактиране на снимки или видео — показа как може да се развие.

„Когато имат технологии и инструменти като AI, които им позволяват да произвеждат дезинформация и дезинформация в масов мащаб, тогава можете да си представите колко голяма е тази заплаха“, каза той, добавяйки, че „вниманието на платформата към определена юрисдикция зависи от това колко важна е тя като пазар“.

Глобален фокусът върху способността да се използва AI за създаване на подвеждащо или фалшиво политическо съдържание се повиши през последната година с разпространението на мощни инструменти като ChatGPT на OpenAI и AI видео генератори.

По-рано тази година Републиканската национална партия на САЩ Комитетът пусна реклама за атака, използваща генерирани от AI изображения, за да изобрази антиутопично бъдеще при президента Джо Байдън. А YouTube спря няколко акаунта във Венецуела, използвайки генерирани от AI водещи на новини, за да популяризират дезинформация, благоприятна за режима на президента Николас Мадуро.

В Бангладеш дезинформацията подхранва напрегнат политически климат преди изборите в началото на януари. Шейх Хасина разби опозицията. Хиляди лидери и активисти бяха арестувани в това, което критиците предупреждават, че се равнява на опит за фалшифициране на социологически проучвания в нейна полза, което кара САЩ да оказват публичен натиск върху нейното правителство да осигури свободни и честни избори.

В едно видео, публикувано на X през септември от BD Politico, онлайн новинарско издание, водещ на новините за „World News“, представи студиен сегмент — осеян с изображения на безредици — в който той обвини американските дипломати в намеса в изборите в Бангладеш и ги обвини в политическо насилие.

Видеото е направено с помощта на HeyGen, базиран в Лос Анджелис AI видеогенератор, който позволява на клиентите да създават клипове с AI аватари само за $24 на месец. Същата котва, наречена „Едуард“, може да се види в промоционалното съдържание на HeyGen като един от няколкото аватари – които сами са генерирани от реални актьори – достъпни за потребителите на платформата. X, BD Politico и HeyGen не отговориха на искания за коментар.

Други примери включват анти-опозиционни дълбоки фалшиви видеоклипове, публикувани във Facebook на Meta, включително такъв, който лъжливо претендира, че е на лидера на БНП в изгнание Тарик Рахман, предлагащ партията „мълчи“ за Газа, за да не предизвика недоволството на САЩ. Tech Global Institute, мозъчен тръст и медийната организация с нестопанска цел Witness заключиха, че фалшивото видео вероятно е генерирано от AI.

AKM Wahiduzzaman, служител на BNP, каза, че неговата партия е поискала от Meta да премахне такова съдържание, но „през повечето време те не си правят труда да отговорят“. Meta премахна видеото, след като се свърза с него от Financial Times за коментар.

В друго дълбоко фалшиво видео, създадено чрез използване на базираната в Тел Авив AI видео платформа D-ID, е показан лидерът на младежкото крило на BNP Рашед Икбал Хан лъжа за възрастта си в това, което Tech Global Institute каза, че е опит да го дискредитира. D-ID не отговори на искане за коментар.

Основно предизвикателство при идентифицирането на такава дезинформация беше липсата на надеждни инструменти за откриване на AI, каза Сабханаз Рашид Дия, основател на Tech Global Institute и бивш изпълнителен директор на Meta , като готовите продукти са особено неефективни при идентифицирането на съдържание, което не е на английски език.

Тя добави, че решенията, предложени от големи технологични платформи, които са се фокусирали върху регулирането на AI в политическите реклами, ще имат ограничен ефект в страни като Бангладеш, където рекламите са по-малка част от политическата комуникация.

„Решенията, които излизат, за да се справят с тази атака на дезинформация от ИИ, са много ориентирани към Запада.“ Технологичните платформи „не приемат това толкова сериозно в други части на света“.

Проблемът се изостря от липсата на регулация или избирателното й прилагане от властите. Законът за киберсигурността на Бангладеш, например, беше критикуван, че дава на правителството драконовски правомощия за борба с несъгласието онлайн.

Интернет регулаторът на Бангладеш не отговори на искане за коментар относно това, което прави, за да контролира онлайн дезинформация.

По-голяма заплаха от самото генерирано от AI съдържание, твърди Дия, е перспективата политиците и други да използват обикновената възможност за дълбоки фалшификации дискредитирайте неудобна информация.

В съседна Индия, например, политик отговори на изтекло аудио, в което се твърди, че обсъжда корупцията в неговата партия, като твърди, че е фалшиво - твърдение, впоследствие отхвърлено от проверяващите факти.

„Лесно е за един политик да каже „Това е deepfake“ или „Това е генерирано от AI“ и да всее чувство на объркване“, каза тя. „Предизвикателството за глобалния юг . . . ще бъде начинът, по който идеята за съдържание, генерирано от AI, се използва като оръжие, за да подкопае това, което хората смятат за вярно срещу невярно.“

Допълнителен репортаж от Jyotsna Singh в Ню Делхи

Последвайте ни в