Как AI се използва за възкресяване на мъртви индийски политици по време на избори
Бенгалуру, Индия – На 23 януари, икона на индийското кино и политика, М Карунаниди се появи пред публика на живо на голям прожектиран екран, за да поздрави своя 82-годишен приятел и колега политик TR Baalu за представянето на неговата автобиографична книга.
Облечен в запазената си марка черни слънчеви очила, бяла риза и жълт шал около раменете си — стилът на Карунаниди беше на място. В своята осемминутна реч поетът-ветеран, превърнал се в политик, поздрави автора на книгата, но също така беше бурен в похвалите си за способното ръководство на МК Сталин, неговия син и настоящия лидер на държавата.
Карунаниди е мъртъв от 2018 г. Това беше третият път през последните шест месеца, когато емблематичният лидер на партията Dravida Munnetra Kazhagam (DMK) беше възкресен с помощта на изкуствен интелект (AI) за подобни публични събития.
„Когато пандемията от COVID опустоши света, нашият главен министър избяга в посока на паническите гласове на хората“, каза Карунаниди. „Нацията знае начина, по който се борихте, за да спасите живота на хората, както и аз.“
Сентил Наягам, основател на Muonium, медийната технологична фирма за изкуствен интелект, която направи дълбоко фалшивото видео Karunanidhi, каза пред Al Jazeera, че „има пазар, който се отваря [за такива дълбоки фалшификации]…. Можете да приписвате някои твърдения на конкретен човек и това му придава по-голяма стойност”.
Първата публична изява на AI Karunanidhi беше на местно медийно събитие миналата година през септември, което беше последвано от друга за кампания на членовете на неговата партия. Възкръсналият лидер често поздравява партийните работници и специално възхвалява ръководството на сина си М. К. Сталин - с цел да повиши популярността му.
При представянето на книгата през януари AI Karunanidhi разказа всичко от опрощаването на студентски дългове и раздаването на парични средства за бедните, до благоприятните за жените политики и привличането на инвестиции – списък с постиженията на сина му през годините, които тласнаха държавата напред.
Последното публично интервю на Карунаниди беше през 2016 г., преди гласът му да стане груб, а тялото му – крехко. Наягам използва публично достъпни данни на Карунаниди, за да обучи модел на реч и пресъздаде приликата на лидера от 90-те години, когато той беше много по-млад. Сценарият за предварително записаната AI реч, каза той, е доставен от местния DMK персонал и е проверен от партиен персонал.
TR Baalu, чийто екип санкционира създаването на AI Karunanidhi, не отговори на искането на Al Jazeera за коментар.
Карунаниди беше един от законодателите с най-дълъг стаж в Индия, който управляваше щата Тамил Наду в продължение на почти две десетилетия, като беше общо пет мандата като главен министър. Поетът, превърнал се в политик, написа сценарии за еманципацията на нисшата каста и продължава да има власт сред по-възрастните избиратели.
Според съобщенията на местните медии, реакцията на тези видеоклипове с изкуствен интелект е подтикнала ръководството на партията DMK да помисли за създаване на предизборни речи на Карунаниди с изкуствен интелект в предстоящата кампания за парламентарни избори през 2024 г.
Етично и правно затруднение
Дори когато политиците оценяват примери за видовете AI комуникация, които трябва да бъдат регулирани, в първата по рода си употреба, политическа партия използва AI, за да възкреси политически лидер от миналото, за да рекламира днешния лидер.
Но също повдигна някои обезпокоителни етични и правни въпроси: „Използването на AI за създаване на синтетично аудио и видео от жив човек, който е подписал съдържанието, е едно нещо. Съвсем друго е да възкресиш мъртъв човек и да му припишеш мнения“, каза Амбър Синха, старши сътрудник за Trustworthy AI в Mozilla Foundation.
Но джинът вече е излязъл от бутилката. Според Diggaj Mogra, директор на Jarvis Consulting, една от най-големите политически консултантски компании в Индия, улесненият от AI маркетинг на съдържание за предизборни кампании, включително изходящи гласови повиквания и SMS, създаване на аватари, персонализирано медийно популяризиране и създадени от AI многоезични реклами в социалните медии е около 60 милиона щатски долара пазарна възможност в Индия тази изборна година.
„В Тамил Наду всички големи лидери на всяка партия вече ги няма“, каза Наягам, имайки предвид бивши актьори, превърнали се в политици Джаялалита, М. Г. Рамачандран и Виджаякант. Наягам каза, че е бил в контакт с няколко функционери на ниско ниво от различни партии, които се интересуват от използването на AI за подобни дълбоки фалшификации.
Интересът към подобни приложения нарасна, каза той, след като сподели миналата година на X през септември четириминутен аудио клип от програмата Mann Ki Baat на премиера Нарендра Моди, която неговата фирма е клонирала на осем езика. Тези запитвания, представляващи интерес, дадоха на Наягам и други консултанти идеята за бизнес възможност в предизборната кампания с ИИ.
В световен мащаб над 60 държави ще проведат национални избори през 2024 г. и възможната злоупотреба с изкуствения интелект за влияние върху общественото мнение предизвика морална паника, превръщайки се в глобален проблем с горещи бутони.
В навечерието на индонезийската президентска кампания, Прабово Субианто, бивш военен генерал, обвинен в извършване на зверства срещу продемократични активисти, използва генеративен ИИ, за да си представи отново себе си като пълничък AI аватар, за да привлече млади гласоподаватели.
В Южна Азия използването на AI за кампании и случаи на злоупотреба придоби известност. В Бангладеш проправителствени акаунти са използвали дълбоки фалшиви фалшиви фалшификации за насочване към опозиционни партии. В Пакистан бившият премиер Имран Хан провежда кампания от затворническата си килия, като предава писмени бележки на адвокатите си, които се превръщат в аудио речи с изкуствен интелект с помощта на софтуер от базираната в САЩ стартираща компания ElevenLabs.
„Тази конкретна употреба на AI в кампании изглежда се разраства в Южна Азия по голям начин“, каза Синха от Mozilla Foundation.
На 21 януари партията DMK организира втората си годишна конференция на младежкото крило в храмовия град Салем. Мега събитието, организирано на открита арена, привлече тълпа от 500 000 поддръжници и отбеляза официалния старт на предизборната кампания за 2024 г. на DMK. Партийните лидери изнесоха вълнуващи речи, отправяйки предизвикателство към хиндуистката националистическа партия Бхаратия Джаната (BJP) и критикуваха нейните политики, включително размиването на правомощията на щатите от управлявания от BJP център.
В тази кампания AI Karunanidhi направи изненадваща видео повторна поява. „Правата на много щатски борби бяха загубени в 10-годишното управление на BJP“, каза Карунаниди, обяснявайки продължаващата враждебност на BJP към Тамил Наду.
Триминутната видео реч, придружена от вдъхновяваща музика, завършва с AI Karunanidhi, който призовава за укрепване на правата на държавата и призовава младите кадри да се борят за демократично бъдеще.
„Това беше създадено от цифровото медийно крило на партията, за да насърчи и ентусиазира кадрите“, каза говорителят на DMK Дхаранидхаран Селвам пред Al Jazeera. „Мисля, че кадрите определено бяха ентусиазирани и развълнувани.“
Починалите лидери са на мода за политически кампании, „защото те продължават да са по-популярни от живите“, каза Сумант Раман, базиран в Ченай политически коментатор. „Нямате масови лидери от калибъра на г-жа Джаялалита“ – друга политическа звезда – „или г-н Карунаниди в Тамил Наду в момента“.
През последните 30 години над половин дузина политически партии са основани от актьори в щата. Раман каза, че много лидери идват от света на киното, където играят невероятни герои и винаги са били поставяни на пиедестал от хората.
„Но това е някак пригодено, когато преминем към следващото поколение, което е мястото, където сме сега. Лидерите се сблъскват с много по-голям контрол всеки ден и затова нямате тази огромна аура за това“, каза той.
„Използвайте популярността на мъртъв човек“
Въздействието върху аудиторията на възкресяващи се емблематични лидери все още се разкрива. „Мисля, че това беше доста обикновено като усилие – отиде при техните хора от партията, така че те го изпиха“, каза Раман относно видео речта на AI. „Днешният изкуствен интелект е способен на още по-добри изображения.“
За видеоклипа за представянето на книгата е ясно, че видеоклипът е синтетичен, тъй като синхронизирането на устните не съвпада напълно. И все пак звукът от гласа на Карунаниди отразява реалността.
Nayagam, създателят на AI Karunanidhi каза, че една от причините за несъвършените визуални ефекти е липсата на висококачествени набори от видео данни, което ги принуждава да търсят всичко, което е налично в интернет.
Видеото, излъчено на младежката конференция, беше по-добро, но беше непоследователно близо до устата. Все пак реакцията на онлайн публиката към видеоклиповете беше благоприятна, като някои коментираха „супер“ в YouTube. И двата видеоклипа бяха ясно обозначени като генерирани от AI.
Индия стана свидетел на първото по рода си използване на deepfakes в предизборна кампания през 2020 г., когато политикът от BJP Манодж Тивари санкционира създаването и разпространението на дълбоки фалшиви видеоклипове на себе си в кампания на харианви и английски, езици, които той не говори. Експертите осъдиха видеото, но с мотива, че е споделено без разкриване, че е манипулирано от AI.
Някой може да твърди, че създаването на AI видеоклипове на политици е продължение на използването на снимки или изображения на мъртви хора от техните политически партии, каза Синха, като например използването на изображения на Неру, Индира Ганди или Раджив Ганди след смъртта им от Индийския национален конгрес.
„Създаването на синтетично аудио или видео обаче отива няколко стъпки напред“, каза Синха. „И в двата случая партията се опитва да използва популярността на мъртвия човек, но във втория мненията и посланията му се приписват активно.“
Допълнителна главоблъсканица при възкресяването на починал политик е: Кой притежава правата върху гласа и образа на мъртвия човек?
„Това, разбира се, няма правно основание в Индия, защото нямаме никакви закрепени права на починали хора в Индия, но от етична гледна точка съгласието трябва да се вземе предвид“, каза Девика Малик, базиран в Делхи консултант по техническа политика, фокусиран върху онлайн доверието и безопасността. Индийският закон предлага правна защита срещу клевета на мъртво лице.
Развиваща се синтетична медийна икономика
Индийските политици също активно търсят AI решения за предстоящи кампании. Mogra от Jarvis Consulting каза, че отделните кандидати се опитват да използват AI гласови клонинги, за да изпращат изходящи роботизирани повиквания или IVRS (Interactive Voice Response System) със записан глас и персонализирани имена в техните съобщения. „Има множество доставчици, които тичат из страната, за да направят това, продавайки това на много номинални цени“, каза Могра.
Вече съществуваше процъфтяваща синтетична медийна икономика върху разрешеното използване на дълбоки фалшификати от актьори и изпълнителни директори и този пазар се разшири в политическата сфера. Консултантски фирми като Polymath Solutions, управлявани от Devendra Singh Jadoun, използват клониране на глас, за да доставят „персонализирани съобщения“ от политици до местни партийни работници.
„Той ще бъде използван масово на тези избори“, каза Могра. Въпреки това „това е нож с две остриета. Това ще създаде много дезинформация и дезинформация. Мисля, че ползите са по-малко, а проблемите с грешната/дезинформацията и всичко това ще бъде по-високо.“
От гледна точка на социалното въздействие остава неясно до каква степен тези видеоклипове с изкуствен интелект – дори и лошо направени – биха могли да оформят нагласите на избирателите.
Дори когато такива видеоклипове не са с високо качество, „в случай на популярен оратор от миналото като M Karunanidhi, това може да доведе до повече очи за съобщенията и да им помогне да станат вирусни“, каза Синха.
Последното му изследване подчертава как „дифузни актьори“ или политически консултанти, които въпреки липсата на партийна принадлежност си сътрудничат с кампании, за да разпространят своето послание.
Използването на сантиментални призиви от конкретни верни хора или семейства – особено когато е персонализирано и изпратено в WhatsApp – може да бъде ефективна комуникационна стратегия и може да повлияе на мнението на избирателите, добави Малик.
Но гледните точки на привържениците на политиката и практиците рязко се различават по отношение на ефективността на синтетичните медии.
Могра на Джарвис прогнозира, че факторът новост на базираните на изкуствен интелект персонализирани съобщения от политици – било то аудио или видео – скоро ще се изчерпи. „Ако хората започнат да го виждат често, ще осъзнаят, че се случва навсякъде и го виждат навсякъде – точно както това, което се случи с WhatsApp“, каза той.
Преди това политическите партии наблягаха допълнително на създаването на групи в WhatsApp за популяризиране. Сега всеки знае, че всеки човек е част от стотици групи и никой не обръща много внимание или чете всички чатове.
„Мисля, че ще се сблъскаме с подобни проблеми с много по-бърза скорост с тези генеративни AI решения и случаи на употреба“, Mogra
