Фалшив запис на кандидат, който казва, че е манипулирал изборите, стана вирусен. Експертите казват, че това е само началото
Дни преди ключовите избори в Словакия, за да се определи кой ще ръководи страната, изобличителен аудиозапис се разпространи онлайн, в който един от най-добрите кандидати изглежда се хвали как е манипулирал изборите.
И ако това не беше достатъчно лошо, гласът му можеше да бъде чут на друг запис, който говори за повишаване на цената на бирата.
Записите незабавно станаха вирусни в социалните медии и кандидатът, който е про-НАТО и е съгласен със западните интереси, беше победен през септември от опонент, който подкрепяше по-тесни връзки с Москва и руския президент Владимир Путин.
Докато броят на гласовете, повлияни от изтеклото аудио, остава несигурен, две неща вече са напълно ясни: Записите са фалшиви, създадени с помощта на изкуствен интелект; и американски служители виждат епизода в Европа като плашещ предвестник на вида намеса, която Съединените щати вероятно ще изпитат по време на президентските избори през 2024 г.
„Като нация сме крайно недостатъчно подготвени“, каза V.S. Субраманиан, професор от Северозападния университет, който се фокусира върху пресечната точка на ИИ и сигурността.
Високопоставени служители по националната сигурност в САЩ се подготвят за „дълбоки фалшификации“, за да внесат объркване сред гласоподавателите по невиждан досега начин, каза пред CNN високопоставен американски служител, запознат с проблема. Тази подготовка включваше планиране за извънредни ситуации за чуждо правителство, което потенциално използва ИИ за намеса в изборите.
Щатските и федералните власти също се борят с нарасналата спешност да приемат законодателство и да обучат избирателните работници да реагират на дълбоки фалшификации, но ограничените ресурси в рамките на изборните служби и непоследователните политики накараха някои експерти да твърдят, че САЩ не са подготвени за мащаба на предизвикателството, откри преглед на CNN.
САЩ вече видяха дезинформация, генерирана от ИИ, в действие.
В Ню Хемпшир фалшива версия на гласа на президента Джо Байдън беше включена в автоматични обаждания, които се опитваха да разубедят демократите да участват в първичните избори. Изображения с изкуствен интелект, които фалшиво изобразяват бившия президент Доналд Тръмп, седнал с тийнейджърки в самолета на Джефри Епщайн, се разпространиха в социалните медии миналия месец. Дийпфейк, публикуван в Twitter миналия февруари, описва водещ кандидат от Демократическата партия за кмет на Чикаго като безразличен към полицейските стрелби.
Различни форми на дезинформация могат да оформят общественото мнение, както се вижда от широко разпространеното погрешно убеждение, че Тръмп е спечелил изборите през 2020 г. Но генеративният AI усилва тази заплаха, като позволява на всеки евтино да създава реалистично изглеждащо съдържание, което може бързо да се разпространява онлайн.
Политическите агенти и майтапчиите могат да извършват атаки също толкова лесно, колкото Русия, Китай или други действащи лица от националната държава. Изследователи в Словакия спекулират, че манипулирането на вота, пред което е изправена страната им, е дело на руското правителство.
„Мога да си представя сценарии, при които противниците на националната държава записват дълбоко фалшиви аудиозаписи, които се разпространяват както чрез социални медии, така и чрез услуги за съобщения, за да привлекат подкрепа за кандидати, които харесват, и да разпространяват злонамерени слухове за кандидати, които не харесват“, каза Субраманиан, Northwestern професор.
ФБР или Министерството на вътрешната сигурност могат да действат по-бързо, за да говорят публично срещу заплаха, ако знаят, че чуждестранен актьор стои зад дълбока фалшива информация, каза високопоставен американски служител, запознат с проблема. Но ако американски гражданин може да стои зад дълбока фалшива информация, служителите по националната сигурност на САЩ биха били по-склонни да се противопоставят публично от страх да не създадат впечатлението, че влияят на изборите или ограничават словото, каза служителят.
И след като дълбок фейк се появи в социалните медии, може да бъде почти невъзможно да се спре разпространението му.
„Загрижеността е, че ще има дълбок фалш на държавен секретар, който казва нещо за резултатите, който казва нещо за изборите, и вие не можете да направите разликата“, каза служителят, който не беше упълномощен да говори на пресата.
Държавите се опитват да се подготвят
Усилията за регулиране на дълбоките фалшификати и предпазване от техните ефекти се различават значително в отделните щати на САЩ.
Някои щати, включително Калифорния, Мичиган, Минесота, Тексас и Вашингтон, приеха закони, които регулират дълбоките фалшификации в изборите. Законът на Минесота, например, прави престъпление някой съзнателно да разпространи дълбок фалш, предназначен да навреди на кандидат в рамките на 90 дни след изборите. Законите на Мичиган изискват кампании за разкриване на манипулирани от AI медии, наред с други мандати. Повече от две дузини други щати имат такова законодателство в очакване, според преглед на Public Citizen, нестопанска група за защита на потребителите.
CNN попита служители на изборите във всичките 50 щата относно усилията за противодействие на дълбоките фалшиви съобщения. От 33, които отговориха, повечето описаха съществуващи програми в техните щати, за да отговорят на обща дезинформация или киберзаплахи. По-малко от половината от тези щати обаче се позоваха на конкретни обучения, политики или програми, създадени да отговорят на свързани с изборите дълбоки фалшификации.
„Да, това е нещо, което ни държи будни през нощта“, каза Алекс Къртас, говорител на държавния секретар на Ню Мексико, попитан за проблема. Къртас каза, че Ню Мексико има планове за настолни упражнения с местни власти, които ще включват обсъждане на deepfakes, но той каза, че държавата все още търси инструменти, които да сподели с обществеността, за да помогне да се определи дали съдържанието е генерирано с изкуствен интелект.
Джаред ДеМаринис, администратор на изборите в Мериленд, каза пред CNN, че неговият щат е издал правило, което изисква политически реклами, които включват съдържание, генерирано от AI, да включват отказ от отговорност, но той каза, че се надява законодателният орган на щата да приеме закон, който дава на щата повече правомощия по въпроса .
„Не вярвам, че можете напълно да забраните дейността, но има значителен правителствен интерес да се гарантира, че електоратът знае какво вижда, защото старата поговорка „да видиш, значи да повярваш“ вече не е така“, каза ДеМаринис.
Други държави признаха ограничени усилия. „Офисът на държавния секретар на Айдахо не е предприел никакви конкретни действия във връзка с дълбоките фалшификации“, каза говорителят Челси Каратини в имейл, въпреки че добави, че Айдахо планира да пусне нов уебсайт за избирателите, за да намерят надеждна информация.
Някои усилия за борба с дезинформацията предизвикаха повече недоверие. Миналата година кабинетът на държавния секретар на Вашингтон подписа договор с технологична компания за проследяване на свързани с изборите неистини в социалните медии, които ще включват дълбоки фалшификации, каза говорител на CNN. Но през ноември Републиканската партия на щата подаде жалба относно етиката, свързана с този договор, в която се твърди, че секретарят е използвал публични средства, за да плати на компания за „наблюдение на гласоподаватели... потискайки опозиционните възгледи“. Държавният съвет по етика отказа да придвижи напред по жалбата, което предизвика повече протести от партията.
