„Хората ще станат по-скептични към изборния процес“: Как AI и deepfakes заплашват изборите

Изкуственият интелект (AI) и deepfakes ще бъдат фактор в предстоящите избори в Ирландия, според старши преподавател по компютърни науки.

Неотдавнашно предложение, внесено от сенатора на Fianna Fáil Малкълм Бърн, призова Избирателната комисия да създаде стратегия за справяне със злоупотребата с изкуствения интелект в политическите кампании.

Димпна О'Съливан, старши преподавател и помощник-ръководител на факултета по компютърни науки към Техническия университет в Дъблин, смята, че заплахата е много реална, тъй като Ирландия се насочва към натоварен период на избори.

През 2024 г. ще има местни и европейски избори , и докато правителството трябва да свика общи избори до март 2025 г., има постоянни спекулации, че коалицията може да свика такива през следващата година.

Г-жа О'Съливан каза пред BreakingNews.ie: „Независимо дали става въпрос за изображения, глас синтез... те могат да бъдат наистина лесно произведени сега, дори от всеки без опит в ИИ. Мисля, че това е нещо, за което ще трябва да бъдем много бдителни по време на изборите."

Законът за ИИ на ЕС има за цел да въведе известна регулация в областта. Г-жа О'Съливан обаче посочи, че вероятно няма да ще влезе в сила до около 2025 г., тъй като се сблъска с препъни-камъка пред генеративния AI.

„Мисля, че по-големият проблем е, че не сме установили наистина правила и норми за цифровото пространство като цяло. Там, където това излезе на преден план, са социалните медии и виждаме това, което бих нарекъл бедствия на социалните медии.

„Саморегулирането не работи, знаем това. Виждали сме проблемите около социалните медийни инструменти около токсично съдържание, разпространяване на дезинформация без никаква регулация, те се превърнаха в наистина ключови инструменти в културните войни.“

Тя добави: „Има някои неща, които Законът за ИИ на ЕС ще въведе, които ще да са приложими за този контекст, например неща като ако генерирате нещо с помощта на AI, трябва да има някакъв вид воден знак. Разбира се, за това трябва да е някой, който следва правилата, а не лош актьор, но мисля, че има други неща, които трябва да разгледаме.

„Наред с регулирането, трябва да работим с технологичните компании по този въпрос. Какви са усъвършенстваните технологии за откриване, които могат да се използват за развенчаване и разбиране на тези дълбоки фалшификати? Процесите на проверка на фактите също са наистина важни."

Г-жа О'Съливан също смята, че информационните и образователни кампании за обществеността относно AI са жизненоважни.

"Едно от нещата, за които говоря много са ниските нива на AI грамотност сред широката общественост", каза тя. "Повечето хора имат лошо разбиране за AI, как работи и какви са общите последици, така че този вид образование и осведоменост за потенциала на deepfakes всички са част от тази по-широка картина.

„Трябва да обединим много хора по време на пътуването: технологични компании, политици, регулатори, политици и обществеността.“

Г-жа О'Съливан често работи в граждански размишления около AI и тя каза: „Двете най-често срещани неща са препоръките на Netflix и убийството роботи. Има толкова много AI приложения по средата.

„Не само с токсично съдържание и дезинформация, но хората наистина не знаят колко много решения се вземат за тях сега от алгоритми. Какво се случва с информацията, когато те го качват в социалните медии, как данните ви се събират, колко често сте уловени от системи за наблюдение. С много от нещата няма вредно въздействие.

"Мисля, че просто общото обучение на хората и позволявайки им да разберат тези неща... и защо законодателството е важно.

„Помислете за нещо като GDPR или защита на данните. Ако не сте доволни от начина, по който някой е третирал вашите данни, можете да се оплачете на Комисар по защита на данните, но ние нямаме нищо подобно за AI или социални медии.

„Повечето граждани не знаят за какво да се оплачат или как да формулират проблем или нарушение, а това е тъй като AI грамотността е наистина лоша.“

Тя каза, че голям проблем е, че законодателството и актовете за AI „се въвеждат много бавно“ поради сложността на проблема, докато „технологията е точната отсреща, бърза напред. Миналата година по това време дори не бихме говорили за ChatGPT, сега той дори не е водещият генеративен AI инструмент".

Г-жа О'Съливан каза, че изображенията, които могат да бъдат направени с генеративен AI, са "плашещо добри “.

Тя каза, че Избирателната комисия, която ще разглежда ИИ заедно с надзора на изборите, трябва да работи с медии и лица, за да установи норми за проверка на фактите.

Въпреки това може да е невъзможно да се предотвратят лоши актьори, използващи AI в опит да се намесят в изборите, г-жа О'Съливан каза, че Избирателната комисия трябва да се съсредоточи върху обществена информационна кампания.

„Манипулирано съдържание: какво е това? Как може да се използва? Какви ще бъдат различните видове? Те могат да бъдат видео, аудио, кражба на самоличност. Просто обща кампания за това как изглежда дезинформацията онлайн... това е добра практика като цяло да образовате гражданите си по този въпрос, не само в изборен сценарий, но е много важно за това.“

Много социални медии компании имат офиси в Дъблин, включително такива като Meta (Facebook, Instagram, WhatsApp), X, бивш Twitter, и TikTok.

Г-жа О'Съливан каза, че правителството и избирателната комисия трябва да се опитат да се възползват от тази близост до водещи технологични компании.

„Един голям проблем е, че голяма част от технологичната експертиза се намира единствено в тези компании, а не в организации като Избирателната комисия“, обясни тя. „Трябва да има обединение на хора, които наистина разбират изборите, и хора, които разбират технологията и как тя може да се използва.“

Един пример, който беше даден за това как AI може значително да повлияе на ирландец изборите биха били фалшив видеоклип на лидера на Tánaiste и Fianna Fáil Micheál Martin, който показва, че ще бъде отворен за коалиция с Шин Фейн. подвеждащо съдържание относително лесно.

"Те могат да бъдат доста реалистични... видео и аудио. По-прости неща като текст, който изобразява политически фигури, които правят изявления или участват в действия, също могат да бъдат убедителни.

„Може лесно да се направи по начин, който е достатъчно ангажиращ и достатъчно манипулиращ. Това е мястото, където се намесва аспектът на социалните медии... става въпрос за профилиране на потребителите, върху които може да има по-голямо влияние, и това е нещо, което според мен е наистина важно за Избирателната комисия, да влезе там.“

Тя добави: „Щеше да е същото за гарда около бунтовете, всъщност да имат достъп до мрежите на социалните медии и да разбират онези потребители, които са по-манипулируеми.

„Хората, които създават, правят това, те профилират хора, така че трябва да правим това от другата страна на оградата."

Година на изборите

Следващата година ще видим местните и европейските избори в Ирландия, възможни общи избори , вероятни общи избори в Обединеното кралство и президентските избори в САЩ.

Г-жа О'Съливан каза, че това повишава риска от използването на AI за намеса в тях.

„Сливането на различни избори. Дори да погледнете бунтовете в Дъблин, имаше много коментари от крайнодесни групи в Обединеното кралство и САЩ по въпроса. Това е глобален феномен. Особено около Facebook видяхме как това се използва за манипулиране и се намесват в избори по света. Хората ще използват избори по целия свят, за да усъвършенстват тези техники. Мисля, че може да минат доста мрачни няколко години, преди да въведем регулацията и да се проведат тези доста нашумяли избори.

„Изборите в САЩ ще бъдат огромна цел; толкова са поляризирани, културните войни са толкова вкоренени там. Мисля, че това, което виждаме там, може да е наистина гадно.“

Посочвайки колко лесно може да бъде генеративният ИИ да стане вирусен, г-жа О'Съливан спомена известния образ на Поуп Франсис, облечен в пухено яке.

„Това вероятно беше най-ефективното дълбоко фалшифициране досега. Не е създадено от никакъв воин на дезинформацията, а просто любител, който го е създал. Просто показва колко лесно е е сега и как нещата стават вирусни."

Г-жа О'Съливан също се опасява, че разговорите около AI и deepfakes ще накарат хората да станат по-скептични по отношение на изборите.

„Хората говорят за това как AI ще промени света с всички екзистенциални неща, аз не вярвам в това, но едно от нещата, които мисля, че наистина ще променят света, е, че всеки има достъп до такъв мощен AI в джобовете си.

„Той демократизира изкуствения интелект, което от една страна е добро нещо, като дава тези инструменти на хората, но винаги ще има лоши актьори, които ги използват за злонамерени цели.

„Оттогава се говори повече за регулиране на AI, хората се страхуват повече от AI, което не беше преди година, защото вероятно не са мислили много за това.

„Това, което може да видите е, че ние ще имаме изборите, целият дискурс около дълбоките фалшификати и това, което вероятно ще завършим, са хората, които са по-скептични към изборния процес, защото ще има повече разговори около манипулираните неща.“

Мисля, че избирателната комисия трябва да помисли как ще изглежда този процес сега.

Тя обаче добави: „Мисля, че това е път, през който трябва да преминем.

„Трябва да повишим осведомеността за това, да го изведем на преден план и да говорим с хората за това. Но мисля, че междувременно, докато сме на тази граница между технологията и изборите, ще видим спад в общественото доверие в изборите, което е дестабилизиращо, няма спор.

" Това е единственият начин да защитим доверието в институциите и демократичния процес. Това трябва да е образование и информираност. Мисля, че трябва да започнем да мислим за... разбира се, избирателите са по-възрастни, така че целенасочени кампании за тях, но трябва да преподаваме AI грамотност в нашите начални училища.

„Хората трябва да са наясно с разликата между реалния живот и живота, генериран от AI, но поради това, което ни предстои, мисля, че избирателната комисия трябва да помислим как ще изглежда този процес сега."

Последвайте ни в