AI meme войни удариха предизборната кампания в Индия, тествайки социални платформи

Бенгалуру, Индия – На 20 февруари основната опозиционна партия на Индия, Индийския народен конгрес (INC), качи видео, пародиращо Prime Министър Нарендра Моди в Instagram, който е натрупал над 1,5 милиона гледания.

Това е къс клип от нов музикален албум на хинди, наименуван „ Chor “ (крадец), където цифровото сходство на Моди е присадено върху водещия артист. Текстът на песента беше хумористично модифициран, с цел да опише опит на апаш – в този случай бизнес магнат – да открадне, а Моди предава въглищни мини, пристанища, електропроводи и в последна сметка страната.

Видеото не е хиперреалистично, а изчерпателен мем с изкуствен интелект, който употребява клонинги на гласа и лицата на Моди, с цел да насочи неприятните рецензии за околните му връзки с индийските бизнес магнати.

Същия ден формалната партия Bharatiya Janata Party (BJP) в Instagram, с над седем милиона почитатели, качи собствен личен видеоклип. Едноминутният клип е суперверсия на Моди, който организира акция по улиците върху колата си, комбиниран с действителни изображения на всички бенефициенти. Това, което е неповторимо, е фоновият резултат: остаряла патриотична ария на хинди, изпята от именития артист Махендра Капур, който умря през 2008 година, пресъздадена с глас на AI.

Текстът беше изменен, с цел да подчертае достиженията на Моди през последните девет години, в това число подкрепяне на фермери и позволяване на индийски учени да кацнат марсоход на Луната. Експерти по аудио криминалистика, които тестваха клипа по искане на Al Jazeera, потвърдиха, че той е генериран от AI.

Въпреки че през миналата година се водят мемове с задействан AI, това е първият път, когато BJP и INC сътвориха и споделиха основано от AI политическо наличие на публични партийни ръкохватки, без експлицитни разкрития.

„ Това е превратната точка на напълно нов метод за осъществяване на образна политика и може би подобен, който ще промени фундаментално метода, по който консумираме мултимедийни артефакти по време на политически акции “, сподели Джойоджит Пал, доцент в Мичиганския университет.

Преглед на Al Jazeera и следващи криминалистични проби откриха минимум три случая на основано или променено наличие от AI, оповестено в формалните ръкохватки на Instagram както на INC, по този начин и на BJP от 20 февруари. Политическите партии уголемяват границите на потреблението на AI до по едно и също време осмиват съперниците и покачват личната си известност на формалните страници, като по този метод тестват границите на политиките на платформата за етикетиране на лъжливо политическо наличие. (Някои клипове бяха кръстосано оповестени и в YouTube и Фейсбук.)

Настоящите правила на Meta изискват от рекламодателите да разкриват, когато употребяват редактирани с AI политически реклами, само че тези разпореждания не се ползват за политически страници и сметки.

„ Освен личното си етикетиране, когато открият сигнали, показващи потребление на AI, няма причина за изключение от това условие за откриване на информация по отношение на наличието на политически страници и сметки “, Сам Грегъри, изпълнителен шеф на нестопанската организация Witness, която изследва потреблението на дийпфейкове за отбрана на правата на индивида, сподели Ал Джазира. „ Още повече, в сравнение с другаде в мрежата, би трябвало да има бистрота по отношение на потреблението на AI в политически подтекст, поради пропуските в способността за разкриване на потреблението му и рисковете от машинация. “

Meta не отговори на запитванията на Al Jazeera по отношение на разпоредбите за етикетиране на AI.

По-рано тази година самостоятелният контролен съвет, който преценя значими решения за модериране на наличие в Meta, разкритикува манипулираната медийна политика на компанията и сподели, че тя би трябвало да бъде разширена, с цел да обхване подправеното аудио и да сложи етикети на подвеждащото наличие. Впоследствие Meta в обява в блог разгласи, че ще етикетира изображения, генерирани от AI, основани благодарение на лични принадлежности за AI, и работи с индустриални сътрудници по механически стандарти, които ще оказват помощ за идентифицирането и етикетирането на AI аудио и видео, основани благодарение на принадлежности на друга компания.

YouTube не разяснява въпросните съответни видеоклипове, усъвършенствани с AI. „ Започнахме да демонстрираме етикети за наличие, основано с генеративни AI функционалности на YouTube, като Dream Screen “, сподели представител на YouTube в изказване, изпратено по имейл до Al Jazeera. „ Скоро от основателите ще се изисква да разкриват, когато са основали реалистично променено или синтетично наличие “, се споделя в изказването, като се препраща към обява в блог от ноември 2023 година

Скрити AI мем връзки

Във видеоклипа „ Chor “ на Моди, споделен от INC на @INCIndia в Instagram, може да се следят явни несъответствия на deepfakes, като да вземем за пример противоречие в синхронизирането на устни и лек проблем в лицето на AI-Modi. Видеото обаче провокира вълна от смях онлайн, генерирайки повече от 1,6 милиона гледания. „ Не знам за 2024 година, само че е ясно, че вие ​​спечелихте фестивала за мемове!! “, разяснява историкът Ешан Шарма.

Вайбхав Уалиа, ръководител на Военната зала за връзки на INC за изборите през 2024 година, сподели пред Al Jazeera, че връзката, основана на мемове, е по-ефективна във връзка с предаването на посланието на партията в обществените медии. Една от аргументите за потреблението на AI е нуждата да се сътвори „ открояващо се наличие, което може да притегли погледите “ на гласоподавателите и да бъде в крайник с настоящите трендове в обществените медии, сподели той.

„ Когато всичко се комуникира от позиция на мемета и жлъч, не можеш да бъдеш в действителност формален “, сподели Walia. „ В Индия формалните канали на политическите партии също се движат в посока, в която ударите стават все по-жестоки с всеки минал ден. Партията на Конгреса [INC] … има малко млада кръв в партията и те са много злобни, като я връщат назад на BJP. ”

Walia не разяснява доброволното етикетиране на AI наличие.

Двата хипотетични AI клипа, споделени от формалния отговорник на BJP в Instagram @BJP4India, бяха по-трудни за различаване дали са основани от AI или не. Al Jazeera показа двата клипа с двама самостоятелни специалисти по разкриване на deepfake, с цел да ревизират дали са усъвършенствани с AI. Анализаторите бяха разграничени във връзка с второто видео, където се реши, че гласът може да е човешка „ мимикрия “ на политици. И двамата анализатори единомислещо се съгласиха, че пеещият глас в първото видео е глас на AI.

„ Проведохме двете проби през няколко патентовани най-съвременни проучвателен логаритъма за разкриване на AI-глас [и открихме, че] гласовата извадка е единомислещо избрана от тези логаритми като генерирана от AI с резултати за възможност, вариращи от 60 % до 99 %, ” сподели Siwei Lyu, шеф на UB Media Forensic Lab, пред Al Jazeera.

Говорителят на BJP Гаурав Бхатия не отговори на запитванията на Ал Джазира.

Синтетична промяна

Първият видеоклип, който пресъздава ария на хинди от 70-те години на предишния век с гласа на артиста Махендра Капур, беше разгласен за генериран от AI от двама специалисти.

Варшул Гупта, съосновател на индийския гласов AI стартъп Dubverse.ai, сподели пред Al Jazeera, че основателите са употребявали модела за превръщане на глас, основан на добиване (RVC), за синтетично трансформиране на неповторим глас в гласа на Капур.

„ Това е 100 % RVC “, сподели Гупта.

Тъй като множеството от хитовите песни на Капур са от началото на 70-те години, гласът му би бил записан на остаряло съоръжение, употребявайки аналогови формати за разбъркване, които не са съвместими за образование на съвременен модел RVC. За да създадат генерирана от AI версия на гласа на Капур, сподели Гупта, основателите евентуално са събрали висококачествени гласови данни и са ги „ почистили ръчно “, с цел да се отърват от петната от предишното в аудиото, преди да обучат AI модела.

„ Направено е и известно аудио пречистване, с цел да звучи като „ остарял [музикален] запис “, сподели Гупта за клипа. Той добави, че основателите също са намалили окончателното аудио, с цел да създадат звука му „ по-естествен “.

Лю от UB Media Forensic Lab се съгласи: „ Три от четири логаритъма дадоха извадката за пеене, генерирана от AI, с възможност над 95 %, само че един я счете за действителна. “

Вторият видеоклип включва карикатури на опозиционни политици, в това число Мамата Банерджи и Шаши Тарур, които рецитират лирика със личните си гласове. Видеото осмива новата алиансова партия на ИНДИЯ, основана от 28 опозиционни политически партии, с цел да се опълчи на BJP на идните избори. Докато оценката на Лю и екипа му беше, че тези гласове са синтетично генерирани, Гупта от Dubverse сподели, че това може да е мимикрия.

„ Наемането на мимикрист би било по-смислено “, сподели Гупта пред Al Jazeera.

„ Беше неизбежно за политическите партии да употребяват клипове, усъвършенствани с AI от публични дръжки, само че странното беше, че беше споделено, без никой да забележи “, сподели Сагар Вишной, политически съветник. „ И двата клипа бяха толкоз тънко настроени, че никой не го видя. “

На 24 февруари формалното управление X на партията All-India Anna Dravidian Progressive Federation (AIADMK) разгласява едноминутен аудио клип на J Jayalalithaa, емблематичната звезда на тамилската политика, която е мъртва от 2016 година Тя беше възкресена с AI от цифровото медийно крило на нейната партия, с цел да търси поддръжка за нейния правоприемник, който ще се състезава на идните избори през 2024 година

„ Това потомство партийни служащи е израснало, слушайки Ама – да чуем гласа й е нещо като ракетно гориво за нас “, сподели Радж Сатян, секретар на ИТ крилото на партията, пред Ал Джазира. Jayalalithaa е известна като „ Amma “ или „ майка “ от почитателите. „ Да пресъздадат Ама и да чуят гласове е това, което съвсем 20 милиона [партийни] членове биха търсили. “

Този съответен клип пристигна с отвод от отговорност, че е генериран от AI, и Sathyan сподели пред Al Jazeera, че партията ще употребява AI по време на акцията през 2024 година, с цел да „ доближи до повече хора, които са лоялни почитатели на Amma “.

Необходимост от наложително откриване на информация

Политическите организации, употребяващи обществени медии и авторитетни лица, не са нови, само че въз основа на тези нови образци потреблението на усъвършенствани с AI мемове и видеоклипове бележи неповторим миг в връзката сред партиите и хората.

„ Това също ще промени метода, по който софтуерните компании и самите страни ръководят процеса на засвидетелствуване, защото бъдещето ще изисква способи, по които феновете ще би трябвало да потвърдят от кое място идва наличието, нещо, с което софтуерните компании се оправят доста зле в този момент “, сподели Пал от Мичиганския университет.

Тъй като от ден на ден случаи на фини линии или усъвършенствания на AI се споделят в публични политически ръкохватки, специалистите споделиха, че платформите би трябвало да наложат наложително откриване на редактирано от AI наличие за политически страници.

„ Това е изключително значимо за гласовете, генерирани от AI – за разлика от изображенията или видеоклиповете, не можем да отличим артефактите от аудиото “, сподели Лю. „ Естеството на редактирането на аудиовизуалните медии би трябвало да бъде разкрито на публиката, освен редактиране с AI, само че и редактиране без AI, като Photoshopping. Това е, с цел да се избегне евентуално заблуждение на публиката. “

Изследователят на дезинформацията Тарунима Прабхакар се съгласи, че защото способността на генерираното от AI наличие да имитира действителността се усилва бързо, разкриването на това по кое време AI се употребява за основаване или възстановяване на наличие става належащо.

Prabhakar е част от напъните за основаване на „ единица за разбор на дълбоки подправени известия “, където потребителите могат да маркират дълбоки подправени известия, като ги изпращат до чатбот на WhatsApp, който ще има за цел да развенчава подправени изказвания. Очаква се линията за помощ да проработи този месец.

Избирателната комисия на Индия не отговори на запитвания по отношение на насоките по отношение на политическите партии, които споделят променено с AI наличие.

ИИ хуморът не постоянно е добре пристигнал

Докато политическите партии се оправят без да разкриват потреблението на AI, няколко индийски жители, които употребяват AI, с цел да пародират мощните, нямат толкоз шанс.

През януари юноша беше задържан от полицията в щата Тамил Наду за шерване на язвителен AI видеоклип в Twitter, в този момент X. 87-секундният видеоклип, прегледан от Al Jazeera, е сатирична поема, преосмислена в гласа на авторитетен локален стихотворец Вайрамуту, хумористично критикуващ някогашния основен министър на Тамил Наду за финансова корупция и династична политика.

„ Предполагаемото стихотворение в гореспоменатото видео съдържа злонамерени, погрешни и оскърбителен изказвания по отношение на някогашния основен министър на Тамилнаду с единственото желание да оклевети ДР. Kal[a]ignar, и потребление на технологията за изкуствен интелект за причиняване на разстройства в публичния ред “, отбелязва жалбоподателят в полицейския отчет, подаден на 15 януари, копие от което Al Jazeera получи.

Видеоклипът беше наново оповестен неведнъж и завоюва повече от 19 500 гледания на X, означи полицейският жалбоподател, и аргументи непоправима щета на репутацията и достолепието на поета и политика.

Въпреки че има явен отвод от отговорност, че „ гласовете са генерирани от AI и не са действителни “, при започване на видеото полицията арестува лице, обвързвано със случая.

„ Дори в случай че някой би трябвало да одобри, че има „ подражаване “, няма „ машинация “ [както се] твърди в тази тъжба “, сподели Пранеш Прак