Deepfakes подвеждат гласоподавателите на изборите в Бангладеш

Политиците по света се тревожат за това по какъв начин генерираната от изкуствен интелект дезинформация може да бъде употребена, с цел да се опитат да подведат гласоподавателите и да разпалят раздялите преди няколко огромни избори идната година.

В една страна това към този момент се случва: Бангладеш.

Южноазиатската нация от 170 милиона души се насочва към урните при започване на януари, съревнование, белязано от горчива и поляризираща мощ битка сред настоящия министър-председател Шейх Хасина и нейните противници, опозиционната Бангладешка националистическа партия.

Проправителствени новинарски издания и авторитетни лица в Бангладеш през последните месеци разпространяваха генерирана от AI дезинформация, основана с евтини принадлежности, предлагани от изкуствен интелект започващи компании.

В един хипотетичен новинарски клип водещ, генериран от AI, подлага на критика Съединени американски щати, страна, която държавното управление на Шейх Хасина подлага на критика преди изборите. Отделно надълбоко подправено видео, което след това беше отстранено, сподели опозиционен водач, двузначен по отношение на поддръжката за жителите на Газа, евентуално пагубна позиция в страната с мюсюлманско болшинство със мощна социална благосклонност към палестинците.

Общественият напън нараства софтуерни платформи за справяне с подвеждащото AI наличие преди няколко огромни избори, предстоящи през 2024 година, в това число в Съединени американски щати, Обединеното кралство, Индия и Индонезия. В отговор Гугъл и Meta неотдавна оповестиха политики, с цел да стартират да изискват акциите да разкриват, в случай че политическите реклами са били цифрово изменени.

Но образците от Бангладеш демонстрират освен по какъв начин тези AI принадлежности могат да бъдат употребявани при избори, само че и компликацията при управлението на потреблението им на по-малки пазари, които рискуват да бъдат подценени от американските софтуерни компании.

Miraj Ahmed Chowdhury, ръководещ шеф на основаната в Бангладеш медийна изследователска компания Digitally Right, сподели, че до момента в който генерираната от AI дезинформация е „ към момента на пробно равнище “ — като множеството са основани благодарение на стандартни платформи за редактиране на фотоси или видео — сподели по какъв начин може да се развие.

„ Когато имат технологии и принадлежности като AI, които им разрешават да създават дезинформация и дезинформация в всеобщ мащаб, тогава можете да си визиите какъв брой огромна е тази опасност “, сподели той, добавяйки, че „ вниманието на платформата към избрана пълномощия зависи от това какъв брой значима е тя като пазар “.

Глобален фокусът върху способността да се употребява AI за основаване на подвеждащо или подправено политическо наличие се увеличи през последната година с разпространяването на мощни принадлежности като ChatGPT на OpenAI и AI видео генератори.

По-рано тази година Републиканската национална партия на Съединени американски щати Комитетът пусна реклама за офанзива, употребяваща генерирани от AI изображения, с цел да изобрази антиутопично бъдеще при президента Джо Байдън. А YouTube спря няколко акаунта във Венецуела, употребявайки генерирани от AI водещи на вести, с цел да разпространяват дезинформация, удобна за режима на президента Николас Мадуро.

В Бангладеш дезинформацията подхранва под напрежение политически климат преди изборите при започване на януари. Шейх Хасина разруши опозицията. Хиляди водачи и деятели бяха задържани в това, което критиците предизвестяват, че се равнява на опит за подправяне на социологически изследвания в нейна изгода, което кара Съединени американски щати да оказват обществен напън върху нейното държавно управление да обезпечи свободни и почтени избори.

В едно видео, оповестено на X през септември от BD Politico, онлайн новинарско издание, водещ на новините за „ World News “, показа студиен сегмент — посипан с изображения на вълнения — в който той упрекна американските дипломати в интервенция в изборите в Бангладеш и ги упрекна в политическо принуждение.

Видеото е направено благодарение на HeyGen, основан в Лос Анджелис AI видеогенератор, който разрешава на клиентите да основават клипове с AI аватари единствено за $24 на месец. Същата котва, наречена „ Едуард “, може да се види в промоционалното наличие на HeyGen като един от няколкото аватари – които сами са генерирани от действителни артисти – налични за потребителите на платформата. X, BD Politico и HeyGen не дадоха отговор на претенции за коментар.

Други образци включват анти-опозиционни дълбоки подправени видеоклипове, оповестени във Фейсбук на Meta, в това число подобен, който лъжливо претендира, че е на водача на БНП в заточение Тарик Рахман, предлагащ партията „ мълчи “ за Газа, с цел да не провокира недоволството на Съединени американски щати. Tech Global Institute, мозъчен концерн и медийната организация с нестопанска цел Witness заключиха, че подправеното видео евентуално е генерирано от AI.

AKM Wahiduzzaman, чиновник на BNP, сподели, че неговата партия е поискала от Meta да отстрани такова наличие, само че „ през множеството време те не си вършат труда да отговорят “. Meta отстрани видеото, откакто се свърза с него от Financial Times за коментар.

В друго надълбоко подправено видео, основано посредством потребление на основаната в Тел Авив AI видео платформа D-ID, е показан водачът на младежкото крило на BNP Рашед Икбал Хан неистина за възрастта си в това, което Tech Global Institute сподели, че е опит да го дискредитира. D-ID не отговори на искане за коментар.

Основно предизвикателство при идентифицирането на такава дезинформация беше неналичието на надеждни принадлежности за разкриване на AI, сподели Сабханаз Рашид Дия, създател на Tech Global Institute и някогашен изпълнителен шеф на Meta, като готовите артикули са изключително неефективни при идентифицирането на наличие, което не е на британски език.

Тя добави, че решенията, препоръчани от огромни софтуерни платформи, които са се фокусирали върху регулирането на AI в политическите реклами, ще имат стеснен резултат в страни като Бангладеш, където рекламите са по-малка част от политическата връзка.

„ Решенията, които излизат, с цел да се оправят с тази офанзива на дезинформация от ИИ, са доста насочени към Запада. “ Технологичните платформи „ не одобряват това толкоз съществено в други елементи на света “.

Проблемът се изостря от неналичието на регулация или изборното й използване от управляващите. Законът за киберсигурността на Бангладеш, да вземем за пример, беше подложен на критика, че дава на държавното управление драконовски пълномощия за битка с несъгласието онлайн.

Интернет регулаторът на Бангладеш не отговори на искане за коментар по отношение на това, което прави, с цел да управлява онлайн дезинформация.

По-голяма опасност от самото генерирано от AI наличие, твърди Дия, е вероятността политиците и други да употребяват елементарната опция за дълбоки фалшификации дискредитирайте неуместна информация.

В прилежаща Индия, да вземем за пример, политик отговори на изтекло аудио, в което се твърди, че разисква корупцията в неговата партия, като твърди, че е подправено - изказване, след това отхвърлено от проверяващите обстоятелства.

„ Лесно е за един политик да каже „ Това е deepfake “ или „ Това е генерирано от AI “ и да всее възприятие на комплициране “, сподели тя. „ Предизвикателството за световния юг ... ще бъде методът, по който концепцията за наличие, генерирано от AI, се употребява като оръжие, с цел да подкопае това, което хората считат за правилно против погрешно. “

Допълнителен репортаж от Jyotsna Singh в Ню Делхи