Как AI се използва за възкресяване на мъртви индийски политици по време на избори
Бенгалуру, Индия – На 23 януари, икона на индийското кино и политика, М Карунаниди се появи пред аудитория онлайн на огромен прожектиран екран, с цел да поздрави своя 82-годишен другар и сътрудник политик TR Baalu за представянето на неговата автобиографична книга.
Облечен в непокътнатата си марка черни слънчеви очила, бяла риза и жълт шал към раменете си — стилът на Карунаниди беше на място. В своята осемминутна тирада поетът-ветеран, трансформирал се в политик, поздрави създателя на книгата, само че също по този начин беше плевел в похвалите си за способното управление на МК Сталин, неговия наследник и сегашния водач на страната.
Карунаниди е мъртъв от 2018 година Това беше третият път през последните шест месеца, когато емблематичният водач на партията Dravida Munnetra Kazhagam (DMK) беше възкресен благодарение на изкуствен интелект (AI) за сходни обществени събития.
„ Когато пандемията от Коронавирус опустоши света, нашият основен министър избяга в посока на паническите гласове на хората “, сподели Карунаниди. „ Нацията знае метода, по който се борихте, с цел да спасите живота на хората, както и аз. “
Сентил Наягам, създател на Muonium, медийната софтуерна компания за изкуствен интелект, която направи надълбоко подправеното видео Karunanidhi, сподели пред Al Jazeera, че „ има пазар, който се отваря [за такива дълбоки фалшификации]…. Можете да приписвате някои изказвания на съответен човек и това му придава по-голяма стойност ”.
Първата обществена изява на AI Karunanidhi беше на локално медийно събитие предходната година през септември, което беше последвано от друга за акция на членовете на неговата партия. Възкръсналият водач постоянно поздравява партийните служащи и особено възхвалява управлението на сина си М. К. Сталин - за да увеличи известността му.
При представянето на книгата през януари AI Karunanidhi описа всичко от опрощаването на студентски задължения и раздаването на парични средства за бедните, до удобните за дамите политики и привличането на вложения – лист с достиженията на сина му през годините, които тласнаха страната напред.
Последното обществено изявление на Карунаниди беше през 2016 година, преди гласът му да стане недодялан, а тялото му – нежно. Наягам употребява обществено налични данни на Карунаниди, с цел да образова модел на тирада и пресъздаде приликата на водача от 90-те години, когато той беше доста по-млад. Сценарият за авансово записаната AI тирада, сподели той, е доставен от локалния DMK личен състав и е тестван от партиен личен състав.
TR Baalu, чийто екип глоби основаването на AI Karunanidhi, не отговори на настояването на Al Jazeera за коментар.
Карунаниди беше един от законодателите с най-дълъг стаж в Индия, който управляваше щата Тамил Наду в продължение на съвсем две десетилетия, като беше общо пет мандата като основен министър. Поетът, трансформирал се в политик, написа сюжети за еманципацията на нисшата прослойка и продължава да има власт измежду по-възрастните гласоподаватели.
Според известията на локалните медии, реакцията на тези видеоклипове с изкуствен интелект е подтикнала управлението на партията DMK да намерения за основаване на предизборни речи на Карунаниди с изкуствен интелект в идната акция за парламентарни избори през 2024 година
Етично и правно усложнение
Дори когато политиците правят оценка образци за типовете AI връзка, които би трябвало да бъдат контролирани, в първата по рода си приложимост, политическа партия употребява AI, с цел да възкреси политически водач от предишното, с цел да популяризира днешния водач.
Но също повдигна някои притеснителни етични и правни въпроси: „ Използването на AI за основаване на синтетично аудио и видео от жив човек, който е подписал наличието, е едно нещо. Съвсем друго е да възкресиш мъртъв човек и да му припишеш отзиви “, сподели Амбър Синха, старши помощник за Trustworthy AI в Mozilla Foundation.
Но джинът към този момент е излязъл от бутилката. Според Diggaj Mogra, шеф на Jarvis Consulting, една от най-големите политически консултантски компании в Индия, улесненият от AI маркетинг на наличие за предизборни акции, в това число изходящи гласови повиквания и SMS, основаване на аватари, персонализирано медийно разпространение и основани от AI многоезични реклами в обществените медии е към 60 милиона щатски $ пазарна опция в Индия тази изборна година.
„ В Тамил Наду всички огромни водачи на всяка партия към този момент ги няма “, сподели Наягам, имайки поради някогашни артисти, трансформирали се в политици Джаялалита, М. Г. Рамачандран и Виджаякант. Наягам сподели, че е бил в контакт с няколко функционери на ниско равнище от разнообразни партии, които се интересуват от потреблението на AI за сходни дълбоки фалшификации.
Интересът към сходни приложения набъбна, сподели той, откакто показа предходната година на X през септември четириминутен аудио клип от програмата Mann Ki Baat на премиера Нарендра Моди, която неговата компания е клонирала на осем езика. Тези запитвания, представляващи интерес, дадоха на Наягам и други консултанти концепцията за бизнес опция в предизборната акция с ИИ.
В международен мащаб над 60 страни ще проведат национални избори през 2024 година и вероятната корист с изкуствения разсъдък за въздействие върху публичното мнение провокира морална суматоха, трансформирайки се в световен проблем с горещи бутони.
В навечерието на индонезийската президентска акция, Прабово Субианто, някогашен боен военачалник, упрекнат в осъществяване на зверства против продемократични деятели, употребява генеративен ИИ, с цел да си показа още веднъж себе си като топчест AI аватар, с цел да притегли млади гласоподаватели.
В Южна Азия потреблението на AI за акции и случаи на корист закупи популярност. В Бангладеш проправителствени сметки са употребявали дълбоки подправени фалшиви фалшификации за ориентиране към опозиционни партии. В Пакистан някогашният министър председател Имран Хан организира акция от затворническата си килия, като предава писмени бележки на юристите си, които се трансформират в аудио речи с изкуствен интелект благодарение на програмен продукт от основаната в Съединени американски щати започваща компания ElevenLabs.
„ Тази съответна приложимост на AI в акции наподобява се разраства в Южна Азия по огромен метод “, сподели Синха от Mozilla Foundation.
На 21 януари партията DMK провежда втората си годишна конференция на младежкото крило в храмовия град Салем. Мега събитието, проведено на открита сцена, притегли навалица от 500 000 поддръжници и означи формалния старт на предизборната акция за 2024 година на DMK. Партийните водачи изнесоха вълнуващи речи, отправяйки предизвикателство към хиндуистката националистическа партия Бхаратия Джаната (BJP) и подлагаха на критика нейните политики, в това число размиването на пълномощията на щатите от управлявания от BJP център.
В тази акция AI Karunanidhi направи изненадваща видео повторна поява. „ Правата на доста щатски битки бяха изгубени в 10-годишното ръководство на BJP “, сподели Карунаниди, обяснявайки продължаващата неприязън на BJP към Тамил Наду.
Триминутната видео тирада, съпроводена от вдъхновяваща музика, приключва с AI Karunanidhi, който приканва за подсилване на правата на страната и приканва младите фрагменти да се борят за демократично бъдеще.
„ Това беше основано от цифровото медийно крило на партията, с цел да насърчи и ентусиазира фрагментите “, сподели представителят на DMK Дхаранидхаран Селвам пред Al Jazeera. „ Мисля, че фрагментите несъмнено бяха въодушевени и разчувствани. “
Починалите водачи са на мода за политически акции, „ тъй като те не престават да са по-популярни от живите “, сподели Сумант Раман, основан в Ченай политически коментатор. „ Нямате всеобщи водачи от калибъра на госпожа Джаялалита “ – друга политическа звезда – „ или господин Карунаниди в Тамил Наду сега “.
През последните 30 години над половин дузина политически партии са учредени от артисти в щата. Раман сподели, че доста водачи идват от света на киното, където играят невероятни герои и постоянно са били поставяни на фундамент от хората.
„ Но това е някак пригодено, когато преминем към идващото потомство, което е мястото, където сме в този момент. Лидерите се сблъскват с доста по-голям надзор всеки ден и по тази причина нямате тази голяма аура за това “, сподели той.
„ Използвайте известността на мъртъв човек “
Въздействието върху аудиторията на възкресяващи се емблематични водачи към момента се разкрива. „ Мисля, че това беше много нормално като изпитание – отиде при техните хора от партията, тъй че те го изпиха “, сподели Раман по отношение на видео речта на AI. „ Днешният изкуствен интелект е кадърен на още по-добри изображения. “
За видеоклипа за представянето на книгата е ясно, че видеоклипът е синтетичен, защото синхронизирането на устните не съответствува изцяло. И въпреки всичко звукът от гласа на Карунаниди отразява действителността.
Nayagam, основателят на AI Karunanidhi сподели, че една от аргументите за несъвършените образни резултати е неналичието на висококачествени набори от видео данни, което ги принуждава да търсят всичко, което е налично в интернет.
Видеото, излъчено на младежката конференция, беше по-добро, само че беше непоследователно покрай устата. Все отново реакцията на онлайн публиката към видеоклиповете беше удобна, като някои разясниха „ супер “ в YouTube. И двата видеоклипа бяха ясно обозначени като генерирани от AI.
Индия стана очевидец на първото по рода си потребление на deepfakes в предизборна акция през 2020 година, когато политикът от BJP Манодж Тивари глоби основаването и разпространяването на дълбоки подправени видеоклипове на себе си в акция на харианви и британски, езици, които той не приказва. Експертите осъдиха видеото, само че с претекста, че е споделено без откриване, че е манипулирано от AI.
Някой може да твърди, че основаването на AI видеоклипове на политици е продължение на потреблението на фотоси или изображения на мъртви хора от техните политически партии, сподели Синха, като да вземем за пример потреблението на изображения на Неру, Индира Ганди или Раджив Ганди след гибелта им от Индийския народен конгрес.
„ Създаването на синтетично аудио или видео обаче отива няколко стъпки напред “, сподели Синха. „ И в двата случая партията се пробва да употребява известността на мъртвия човек, само че във втория мненията и посланията му се приписват интензивно. “
Допълнителна главоблъсканица при възкресяването на умрял политик е: Кой има правата върху гласа и облика на мъртвия човек?
„ Това, несъмнено, няма правно съображение в Индия, тъй като нямаме никакви закрепени права на умряли хора в Индия, само че от етична позиция единодушието би трябвало да се вземе поради “, сподели Девика Малик, основан в Делхи съветник по техническа политика, фокусиран върху онлайн доверието и сигурността. Индийският закон предлага правна отбрана против клюка на мъртво лице.
Развиваща се синтетична медийна стопанска система
Индийските политици също интензивно търсят AI решения за идни акции. Mogra от Jarvis Consulting сподели, че обособените претенденти се пробват да употребяват AI гласови клонинги, с цел да изпращат изходящи роботизирани повиквания или IVRS (Interactive Voice Response System) със записан глас и персонализирани имена в техните известия. „ Има голям брой снабдители, които тичат из страната, с цел да създадат това, продавайки това на доста номинални цени “, сподели Могра.
Вече съществуваше процъфтяваща синтетична медийна стопанска система върху позволеното потребление на дълбоки имитации от артисти и изпълнителни шефове и този пазар се разшири в политическата сфера. Консултантски компании като Polymath Solutions, ръководени от Devendra Singh Jadoun, употребяват клониране на глас, с цел да доставят „ персонализирани известия “ от политици до локални партийни служащи.
„ Той ще бъде употребен всеобщо на тези избори “, сподели Могра. Въпреки това „ това е нож с две остриета. Това ще сътвори доста дезинформация и дезинформация. Мисля, че изгодите са по-малко, а проблемите с грешната/дезинформацията и всичко това ще бъде по-високо. “
От позиция на общественото влияние остава неразбираемо доколко тези видеоклипове с изкуствен интелект – даже и неприятно направени – биха могли да оформят настройките на гласоподавателите.
Дори когато такива видеоклипове не са с високо качество, „ при положение на известен оратор от предишното като M Karunanidhi, това може да докара до повече очи за известията и да им помогне да станат вирусни “, сподели Синха.
Последното му проучване акцентира по какъв начин „ дифузни артисти “ или политически консултанти, които макар неналичието на партийна принадлежност си сътрудничат с акции, с цел да разпространят своето обръщение.
Използването на сантиментални апели от съответни правилни хора или фамилии – изключително когато е персонализирано и изпратено в WhatsApp – може да бъде ефикасна информационна тактика и може да повлияе на мнението на гласоподавателите, добави Малик.
Но гледните точки на последователите на политиката и практиците внезапно се разграничават във връзка с успеваемостта на синтетичните медии.
Могра на Джарвис предвижда, че факторът оригиналност на основаните на изкуствен интелект персонализирани известия от политици – било то аудио или видео – скоро ще се изчерпи. „ Ако хората стартират да го виждат постоянно, ще осъзнаят, че се случва на всички места и го виждат на всички места – тъкмо както това, което се случи с WhatsApp “, сподели той.
Преди това политическите партии наблягаха в допълнение на основаването на групи в WhatsApp за разпространение. Сега всеки знае, че всеки човек е част от стотици групи и никой не обръща доста внимание или чете всички чатове.
„ Мисля, че ще се сблъскаме с сходни проблеми с доста по-бърза скорост с тези генеративни AI решения и случаи на приложимост “, Mogra
