AI, deepfakes и дезинформация в изборите в Индия
През ноември миналата година , Muralikrishnan Chinnadurai гледаше предаване на живо на събитие на тамилски език в Обединеното кралство, когато забеляза нещо странно. Жена, представена като Duwaraka, дъщеря на Velupillai Прабхакаран, командир на бойците на Тамилските тигри, изнасяше реч. Проблемът беше, че Дуварака бе загинал преди повече от десетилетие при въздушен удар през 2009 г. последните дни на гражданската война в Шри Ланка. Тялото на тогавашния 23-годишен младеж така и не е открито. И сега, ето я - привидно жена на средна възраст - увещавайки тамилийците по целия свят да продължат политическата борба за своята свобода. Г-н Чинадурай, проверяващ фактите в южния индийски щат Тамил Наду, изгледа видеото внимателно, забеляза пропуски във видеото и скоро го определи като цифра, генерирана от изкуствен интелект (AI). Потенциалните проблеми веднага станаха ясни на г-н Чинадурай: „Това е емоционален проблем в щата [Тамил Наду] и с изборите зад ъгъла, дезинформацията може бързо да се разпространи." Докато Индия отива на избори, е невъзможно да се избегне изобилието от генерирано от AI съдържание се създават - от видеоклипове за кампанията до персонализирани аудио съобщения на редица индийски езици и дори автоматизирани обаждания до избиратели с гласа на кандидата. Създателите на съдържание като Шахид Шейх дори се забавляваха, използвайки инструменти за изкуствен интелект, за да покажат индийските политици в аватари, в които не сме ги виждали досега: облечени в свободното време, пускайки музика и танци. Но тъй като инструментите стават все по-сложни, експертите се тревожат за последиците от тях, когато става въпрос за превръщането на фалшивите новини в истински. "Слуховете винаги са били част от предизборната кампания. [Но] в ерата на социалните медии те могат да се разпространят като горски пожар", казва SY Qureshi, бивш главен избирателен комисар на страната. "Всъщност може да подпали страната." Индийските политически партии не са първите в света, които се възползват от последните разработки в ИИ. Точно над границата в Пакистан това позволи на затворения политик Имран Хан да говори на митинг. А в самата Индия премиерът Нарендра Моди също вече направи най-доброто на нововъзникващата технология за ефективна кампания – обръщайки се към аудитория на хинди, който с помощта на създадения от правителството AI инструмент Bhashini след това беше преведен на тамилски в реално време. Но може да се използва и за манипулиране на думи и съобщения. Миналия месец два вирусни видеоклипа показаха боливудските звезди Ранвир Сингх и Аамир Хан да водят кампания за опозиционната Конгресна партия . И двамата подадоха жалби в полицията, заявявайки, че това са дълбоки фалшификати, направени без тяхното съгласие. След това, на 29 април, министър-председателят Моди изрази загриженост относно използването на AI за изкривяване на речи от висши лидери на управляващата партия, включително него. На следващия ден полицията арестува двама души, по един от опозиционната партия Aam Aadmi (AAP) и Конгреса партия, във връзка с подправен видеоклип на министъра на вътрешните работи Амит Шах. Партията Bharatiya Janata (BJP) на г-н Моди също е изправена пред подобни обвинения от опозиционни лидери в страната . Проблемът е, че въпреки арестите няма изчерпателна регулация, според експерти. Което означава, че "ако ви хванат да правите нещо нередно, в най-добрия случай може да има шамар по китката ви", според Сринивас Кодали, изследовател на данни и сигурност. При липса на регулация създателите казаха на BBC, че трябва да разчитат на личната етика, за да решат какъв вид работа избират да вършат или да не вършат. BBC научи, че сред исканията на политиците са били порнографски изображения и преобразуване на видеоклипове и аудиозаписи на техните съперници, за да навредят на репутацията им. „Веднъж ме помолиха да направя оригинал да изглежда като deepfake, защото оригиналното видео, ако бъде споделено широко, би накарало политиката да изглежда зле“, разкрива Divyendra Singh Jadoun. "Така че екипът му искаше да създам deepfake, който те да представят за оригинал." Г-н Jadoun, основател на The Indian Deepfaker (TID), който създаде инструменти, за да помогне на хората да използват софтуер с AI с отворен код за създаване на предизборни материали за индийски политици, настоява да поставя отказ от отговорност върху всичко, което прави, така че да е ясно, че не е реално. Но все още е трудно да се контролира. Г-н Шейх, който работи с маркетингова агенция в източния щат Западен Бенгал е видял работата му да се споделя без разрешение или кредит от политици или политически страници в социалните медии. "Един политик използва изображение, което аз създаден от г-н Моди без контекст и без да се споменава, че е създаден с помощта на AI“, казва той. И сега е толкова лесно да се създаде deepfake, че всеки може да направи то. "Това, което преди ни отнемаше седем или осем дни, за да създадем, сега може да бъде направено за три минути", обяснява г-н Jadoun. „Трябва само да имате компютър.“ Наистина, BBC получи поглед от първа ръка колко лесно е да се създаде фалшив телефонен разговор между двама души – в този случай аз и бившият президент на САЩ. Въпреки рисковете, Индия първоначално каза, че не обмисля закон за AI. Този март обаче се задейства след фурор около отговора на чатбота Gemini на Google на запитване: „Моди фашист ли е?“ Rajeev Chandrasekhar, младши министър на информационните технологии на страната, каза, че е нарушил ИТ законите на страната. Оттогава индийското правителство поиска от технологичните компании да получат изричното му разрешение, преди да стартират публично „ненадеждни“ или „недостатъчно тествани“ генеративни AI модели или инструменти. Той също така предупреди срещу отговорите на тези инструменти, които „застрашават целостта на изборния процес“. Но това не е достатъчно: проверяващите факти казват, че трябва да се поддържа развенчаването на подобно съдържание е трудна задача, особено по време на избори, когато дезинформацията достигне своя връх. "Информацията се разпространява със скорост от 100 км в час", казва г-н Чинадурай, който ръководи медиен наблюдател в Тамил Наду. „Развенчаната информация, която разпространяваме, ще се движи с 20 км в час. И тези фалшификати дори си проправят път в основните медии, казва г-н Кодали. Въпреки това „избирателната комисия публично мълчи относно ИИ“. „Като цяло няма правила“, казва г-н Кодали. „Те оставят технологичната индустрия да се саморегулира, вместо да измислят действителни регулации.“ Няма безпогрешно решение, казват експертите. "Но [засега] ако се предприемат действия срещу хората, препращащи фалшификати, това може да изплаши другите да не споделят непроверена информация", казва г-н Куреши. Наистина големи избори с близо милиард гласоподаватели „Невидими в собствената ни страна“: Да бъдеш мюсюлманин в Индия на Моди Икономиката на Индия: Доброто, лошото и грозното в шест класации Очуканата Индия опозицията се изправя срещу Моди Защо изборите в Индия имат значение за света
