AI засилва заплахата от дезинформация в голяма година за изборите в световен мащаб
Изкуственият интелект засилва заплахата от дезинформация за изборите в световен мащаб, като улеснява всеки със смартфон да създава фалшиво – но убедително – съдържание, насочено към заблуда на гласоподавателите
От ALI SWENSON Associated Press и КЕЛВИН ЧАН Associated Press 14 март 2024 г., 1:08 ч. Изборна дезинформация по целия свят, което улеснява всеки със смартфон и коварно въображение да създава фалшиви – но убедително – съдържание, насочено към заблуда на гласоподавателите.Това бележи квантов скок отпреди няколко години, когато създаването на фалшиви снимки, видеоклипове или аудио клипове изискваше екипи от хора с време, технически умения и пари. Сега, използвайки безплатни и евтини услуги за генеративен изкуствен интелект от компании като Google и OpenAI, всеки може да създава висококачествени „deepfakes“ само с обикновена текстова подкана.
„Не е нужно да гледате надалеч, за да видите някои хора... явно объркани дали нещо е истинско или не“, каза Хенри Айдер, водещ експерт по генеративен AI, базиран в Кеймбридж, Англия.
Въпросът вече не е дали AI deepfakes може да повлияе на изборите, а колко влиятелни ще бъдат те, каза Айдер , който ръководи консултантска фирма, наречена Latent Space Advisory.
Докато президентската надпревара в САЩ се нажежава, директорът на ФБР Кристофър Рей наскоро предупреди за нарастващата заплаха, като каза, че генеративният AI улеснява "чуждестранните противници да се ангажират със злонамерено влияние."
С AI deepfakes имиджът на кандидат може да бъде опетнен или смекчен. Гласоподавателите могат да бъдат насочени към или далеч от кандидатите — или дори да избегнат изцяло изборите. Но може би най-голямата заплаха за демокрацията, казват експертите, е, че вълната от AI deepfakes може да подкопае доверието на обществото в това, което виждат и чуват.
Някои скорошни примери за дълбоки фалшификации с изкуствен интелект включват:
— Видеозапис на прозападния президент на Молдова, който хвърля подкрепата си зад политически партия, приятелска на Русия.
— Аудиоклипове на лидера на либералната партия в Словакия, който обсъжда фалшифицирането на вота и повишаването на цената на бирата.
— Видео на опозиционен депутат в Бангладеш — консервативна нация с мюсюлманско мнозинство — облечена в бикини.
Новостта и сложността на технологията затрудняват проследяването кой стои зад AI deepfakes. Експерти казват, че правителствата и компаниите все още не са в състояние да спрат потопа, нито се движат достатъчно бързо, за да решат проблема.
С подобряването на технологията „окончателни отговори за голяма част от фалшивото съдържание ще бъде трудно да се открие“, каза Айдер.
Някои AI deepfakes имат за цел да посеят съмнение относно лоялността на кандидатите.
В Молдова, източноевропейска страна, граничеща с Украйна, прозападният президент Мая Санду е била честа мишена. Една AI deepfake, разпространена малко преди местните избори, изобразява как тя подкрепя приятелска на Русия партия и обявява планове да подаде оставка.
Длъжностни лица в Молдова вярват, че руското правителство стои зад дейност. С президентските избори тази година дълбоките фалшификати целят „да подкопаят доверието в нашия изборен процес, кандидати и институции – но също така да подкопаят доверието между хората“, каза Олга Роска, съветник на Санду. Руското правителство отказа да коментира тази история.
Китай също беше обвинен, че въоръжава генеративния ИИ за политически цели.
В Тайван, самоуправляващ се остров, който Китай твърди, че е негов, AI deepfake привлече вниманието по-рано тази година, като предизвика опасения относно намесата на САЩ в местната политика.
Фалшивият клип, разпространяван в TikTok, показа американския представител Роб Уитман, заместник-председател на Комитета по въоръжените сили на Камарата на представителите на САЩ, обещаващ по-силна военна подкрепа на САЩ за Тайван, ако кандидатите на действащата партия бъдат избрани през януари.
Уитман обвини Китайската комунистическа партия, че се опитва да се намеси в политиката на Тайван, като каза, че използва TikTok – китайска компания – за разпространение на „пропаганда“.
Говорител на китайското външно министерство Уанг Уенбин каза, че правителството му не коментира фалшиви видеоклипове и че се противопоставя на намесата във вътрешните работи на други страни. Изборите в Тайван, подчерта той, „са местна работа на Китай.“
Дийпфейковете само за аудио са особено трудни за проверка, защото за разлика от снимките и видеоклиповете, те липсват издайнически признаци на манипулирано съдържание.
В Словакия, друга страна, засенчена от руското влияние, аудиоклипове, наподобяващи гласа на лидера на либералната партия, бяха широко разпространени в социалните медии само дни преди парламентарните избори. Клиповете предполагаемо го заснеха да говори за повишаване на цените на бирата и манипулиране на вота.
Разбираемо е избирателите да се хванат на измамата, каза Айдер, защото хората са „много повече свикнали да съдят с очите си, отколкото с ушите си.“
В САЩ автоматични обаждания, представящи се за президента на САЩ Джо Байдън, призоваха избирателите в Ню Хемпшир да се въздържат от гласуване на първичните избори през януари. По-късно обажданията бяха проследени до политически консултант, който каза, че се опитва да разгласи опасностите от AI deepfakes.
В по-бедните страни, където медийната грамотност изостава, дори ниска -качествените фалшификати с изкуствен интелект могат да бъдат ефективни.
Такъв беше случаят миналата година в Бангладеш, където опозиционният депутат Румиен Фархана - явен критик на управляващата партия - беше фалшив изобразен облечен в бикини. Вирусният видеоклип предизвика възмущение в консервативната мюсюлманска нация.
„Те се доверяват на всичко, което видят във Facebook“, каза Фархана.
Експертите са особено загрижени за предстоящите избори в Индия, най-голямата демокрация в света и където социалните медийни платформи са благодатна среда за дезинформация.
Някои политически кампании използват генеративен AI, за да укрепят имиджа на своя кандидат.
В Индонезия екипът, който ръководи президентската кампания на Prabowo Subianto внедри просто мобилно приложение, за да изгради по-дълбока връзка с поддръжниците в огромната островна държава. Приложението даде възможност на гласоподавателите да качват снимки и да създават генерирани от AI изображения на себе си със Subianto.
Тъй като видовете AI deepfakes се умножават, властите по света се опитват да измислете предпазни огради.
Европейският съюз вече изисква платформите на социалните медии да намалят риска от разпространение на дезинформация или „изборна манипулация“. Той ще наложи специално етикетиране на AI deepfakes от следващата година, твърде късно за парламентарните избори в ЕС през юни. Все пак останалият свят е много по-назад.
Най-големите технологични компании в света наскоро — и доброволно — подписаха пакт за предотвратяване на AI инструментите да осуетят изборите . Например, компанията, която притежава Instagram и Facebook, каза, че ще започне да етикетира deepfakes, които се появяват на нейните платформи.
Но deepfakes са по-трудни за овладяване на приложения като услугата за чат Telegram, която не е подписала доброволния пакт и използва криптирани чатове, които могат да бъдат трудни за наблюдение. може да има непредвидени последици.
Добронамерените правителства или компании могат да потъпчат понякога „много тънката“ граница между политически коментари и „нелегитимен опит за клевета на кандидат ”, каза Тим Харпър, старши политически анализатор в Центъра за демокрация и технологии във Вашингтон.
Основните генеративни AI услуги имат правила за ограничаване на политическата дезинформация. Но експертите казват, че остава твърде лесно да се надхитрят ограниченията на платформите или да се използват алтернативни услуги, които нямат същите предпазни мерки.
Дори и без лоши намерения, използването на AI е проблематично. Много популярни чатботове, задвижвани от изкуствен интелект, все още бълват невярна и подвеждаща информация, която заплашва да лиши избирателите.
И софтуерът не е единствената заплаха. Кандидатите биха могли да се опитат да заблудят гласоподавателите, като твърдят, че реални събития, представящи ги в неблагоприятна светлина, са произведени от AI.
„Свят, в който всичко е подозрително — и така всеки може да избере това, в което вярва – също е свят, който е наистина предизвикателство за една процъфтяваща демокрация“, каза Лиза Репел, изследовател в Международната фондация за избирателни системи в Арлингтън, Вирджиния.
__
Суенсън съобщи от Ню Йорк. Авторите на Associated Press Джулхас Алам в Дака, Бангладеш, Крутика Пати в Ню Делхи, Хуейжонг Ву в Банкок, Една Тариган в Джакарта, Индонезия, Дейк Канг в Пекин и Стивън Макграт в Букурещ, Румъния, допринесоха за този доклад.
__
Асошиейтед прес получава подкрепа от няколко частни фондации, за да подобри своето обяснително отразяване на изборите и демокрацията. Вижте повече за инициативата за демокрация на AP тук. AP е единствено отговорен за цялото съдържание.
