Нарастващата заплаха за демокрацията от дезинформация, задвижвана от AI

Два дни преди изборите в Словакия през септември, тайнствен запис стана вирусен в обществените медии. В него претендентът на демократичната съпротива Михал Шимечка явно може да бъде чут да заговорничи с публицист за пазаруване на гласове и подправяне на резултата.

„ Ще бъде направено по метод, по който никой не може да ви упрекна във взимане на подкупи “, Шимечка хипотетично се споделя на аудиозаписа, съгласно публикувания по това време дубликат на диалога. „ Внимавайте, има доста хора в близост, не използвайте думата Б “, дава отговор журналистът.

Най-експлозивното нещо в записа беше, че беше подправен – комплицирана машинация, основана от изкуствен интелект, споделиха проверяващи обстоятелства, базирайки се на индикатори като неестествена дикция и нетипични паузи.

Записът обаче беше споделен от хиляди гласоподаватели по време на мораториума върху отразяването на изборите в страната, което затрудни съдружниците на Шимечка или медиите да го развенчаят като подправен.

Шимечка, който оглави екзитполовете, жигосах записа като „ колосална, явна нелепост “ и словашката полиция издаде предизвестие към гласоподавателите да бъдат деликатни онлайн във връзка с нечестни артисти с „ привлечени ползи “. Но Шимечка загуби гласуването от своя популистки, проруски противник Робърт Фицо.

Извършителите остават незнайни и точното влияние върху резултата е невероятно да се реши – само че епизодът предвещава нова зора за осведомителна война и голямо предизвикателство за обществените медийни платформи на Силициевата котловина преди една историческа година на избори. Приблизително 2 милиарда души, или към половината от възрастното население на света, се чака да се насочат към урните през 2024 година, в това число в Съединени американски щати, Европейски Съюз, Индия и Обединеното кралство.

Онлайн дезинформацията е фактор в изборите от доста години. Но неотдавнашният бърз прогрес в технологиите за изкуствен интелект значи, че е по-евтино и по-лесно от всеки път да се манипулират медии, с помощта на оживения нов пазар на мощни принадлежности като ChatGPT на OpenAI, Midjourney за пускане на изкуствен интелект или други текстови, аудио и видео генератори. В същото време манипулираните или синтетичните медии стават все по-трудни за забелязване.

Вече реалистичните дълбоки фейкове се трансфораха в нов фронт в дезинформационния пейзаж към споровете Израел-Хамас и Русия-Украйна. Сега те са подготвени да размътят водите в изборните процеси, които към този момент са опетнени от намаляващото публично доверие в държавните управления, институциите и демокрацията, дружно с всеобхватния нелиберализъм и политическа поляризация.

„ Технологиите доближиха този съвършен трифект от натурализъм, успеваемост и досегаемост “, споделя Хенри Айдер, специалист по AI и deepfakes и консултант на Adobe, Meta и EY. „ Опасенията за въздействието върху изборите бяха пресилени до тази година. И тогава нещата се случиха със скорост, която не мисля, че някой е очаквал. ”

Властите към този момент издават предизвестия. В Обединеното кралство през ноември GCHQ повдигна вероятността за „ хиперреалистични ботове, основани от AI “ и все по-напреднали акции за надълбоко подправяне преди изборите в страната. Двупартийна група от американски сенатори неотдавна предложи законодателство за възбрана на „ материално лъжливо генерирано от AI “ в политическата реклама.

Социалните медийни платформи, в това число Meta, YouTube на Гугъл, TikTok и X, в този момент са изправени пред напън да вкарат защитни огради към deepfakes, да лимитират нечестивите артисти и да подсигуряват, че вършат верните позвънявания за модериране, когато става дума за мощно двусмислени медии, като в същото време остават безпартиен.

И въпреки всичко мнозина са по-малко готови за това, в сравнение с при предходни огромни избори, предизвестяват специалисти. Някои, в това число Meta, понижиха вложенията си в екипи, отдадени на поддържането на безвредни избори след спада на софтуерните акции при започване на 2023 година В случая с X на Илън Мъск, ресурсите за модериране на наличие бяха понижени фрапантно, защото той даде обещание да възвърне това, което назовава независимост на словото максимализъм.

Усилията на основаните в Съединени американски щати софтуерни групи да влагат в инспекция на обстоятелствата и справяне с дезинформацията също станаха политизирани, защото десните американски политици ги упрекват в скрит план с държавното управление и университетските среди за цензуриране на консервативни възгледи.

Множество леви специалисти по дезинформация и учени предизвестяват, че тази динамичност принуждава платформите, университетите и държавните организации да се отдръпват от начинания за честност на изборите и съдействие в международен мащаб от боязън от отмъщение. Мета сподели през декември, че държавното управление на Съединени американски щати е спряло шерването на информация с платформата, макар че сходни съдействия преди този момент са помогнали на компанията да разпознава „ комплицирани участници в закани “.

Тази токсична примес от по-сложни AI принадлежности и по-малко постоянна предварителна защита ограниченията значи, че това, което специалистите разказват като сюжет за края на света на дезинформацията - че вирусен неоткриваем дийпфейк ще има пагубно влияние върху демократичния развой - към този момент не е просто теоретично, предизвестяват мнозина.

„ Мисля, че комбинацията от хаоса, който генеративните AI принадлежности ще разрешат, и минуса на стратегиите, които платформите разполагат, с цел да подсигуряват честността на изборите, е това разгръщащо се злополучие пред очите ни, “ споделя ръководителят на една организация с нестопанска цел за цифрови проучвания. „ Изключително съм угрижен, че жертвата ще бъде самата народна власт. “

Идеята за онлайн дезинформационни войни беше натрапена в публичното схващане след успеха на Доналд Тръмп през 2016 година президентски избори в Съединени американски щати.

Американски чиновници по-късно откриха доказателства за координирани онлайн старания на Русия да повлияе на гласуването, при което студенти, разбиращи се в технологиите, бяха наети в основана в Санкт Петербург „ плантация за тролове “, наречена Агенция за интернет проучвания.

>

Докато акцията остана съвсем изцяло незабелязана от платформите на обществените медии, съветската тактичност по това време беше груба. Служителите на IRA сътвориха групи от подправени сметки и страници и купиха реклама в рубли. Фалшиви персони нападнаха републиканеца Тръмп или неговия противник от Демократическата партия Хилари Клинтън посредством вулгарни мемета; други се стремяха да провокират разделяне към тематики като расово напрежение, имиграция или права върху оръжията, постоянно на негоден британски.

До 2020 година акции за дезинформация в обществените медии са работили допълнително от 80 страни, съгласно Oxford Internet Институт — проведен по друг метод от политически партии, сенчести връзки с обществеността и разследващи групи от частния бранш или самите държавни управления. Някои започнаха да опитват с обикновени техники за надълбоко подправяне, изключително цифрово обрисуване на фиктивни лица.

В отговор Гугъл, Meta, TikTok и X вкараха правила, забраняващи координирани интервенции за прикрито въздействие и дезинформация по отношение на гласуването и потискането на гласоподавателите. Гугъл не разрешава подправени медии, свързани с политика и обществени въпроси, до момента в който Meta не разрешава манипулирано наличие, което е предопределено да подвежда, и разрешава на своите проверяващи обстоятелства да маркират, в случай че медиите са „ изменени “, което го прави по-малко видимо в излъчванията на потребителите.

Но появяването на генеративен AI — мощни мултимодални модели, които могат да съчетават текст, изображение, аудио и видео — промени коренно капацитета за дълбоки имитации, поставяйки опцията за основаване на безапелационни медии в мащаб в границите на обсега на съвсем всеки.

Стартъпи за видео генератори като основаната в Лос Анджелис HeyGen и основаната в Лондон Synthesia, нормално обслужващи промишлености като филми и реклама, разрешават на клиентите да основават видеоклипове с аватари с изкуствен интелект за малко над $20 на месец на бързо разрастващ се пазар, който към този момент коства към половин милиард $ през 2022 година Също по този начин технологията може да се употребява за генериране на новинарски публикации, задвижвани от изкуствен интелект, ръководство на новинарски уеб сайтове, автоматизиране на армии от ботове или даже основаване на чатботове, които могат да бъдат скриптирани в последна сметка да разсъни несъмнено политическо въодушевление у потребителя.

„ 2023 в действителност беше основата за това, което ще забележим [тази] година, когато приказваме за манипулирани медии и задвижвани от AI интервенции за влияние ... без значение дали са от обособени артисти или може би от национални държавни организации “, споделя Брайън Листън, анализатор на разузнаването в кибергрупата Recorded Future.

Deepfake аудио на водача на опозицията в Обединеното кралство Кийр Стармър, ругаещ помощници, публикувано в първия ден на Лейбъристката партия конференция през октомври. Миналата година YouTube на Гугъл спря няколко акаунта във Венецуела, показващи видеоклипове на водещи на подправени вести, които четат дезинформация, която хвърля режима на президента Николас Мадуро в позитивна светлина.

Мотивите за акциите са разнообразни. Някои са предопределени да трансформират мнението или да дискредитират претендентите. Други, както е всекидневно в последните съветски акции, се стремят да подкопаят доверието в демокрацията като част от по-широки, по-стратегически геополитически цели. След това има и такива, които просто се пробват да генерират ангажираност и облага, да вземем за пример посредством рекламни кликвания.

Има и вторични резултати. Точно както някои политици като Тръмп са трансформирали в оръжие концепцията за „ подправени вести “, като изравняват термина с разкази, с които не са съгласни, по този начин и възходящата социална информираност за дълбоките имитации може да бъде употребена за дискредитиране на истините и отказване на действителността.

Вече плаченето на deepfake е тактичност, прилагана от правни екипи в отбрана на техните клиенти. Миналата година юристите на Илън Мъск допуснаха, че видеоклип в YouTube на милиардера бизнесмен, който приказва за опциите на Tesla за независимо ръководство, може да е бездънен подправен като част от дело за гибелта на човек, употребяващ системата. Съдията сподели, че това не е съображение да се отхвърлят доказателствата, като назова аргумента „ надълбоко притеснителен “.

В политическата сфера претендентите към този момент имат „ способността да отхвърлят нездравословен аудио или видео материал “, споделя Брет Шафер, специалист по агитация в Алианса за обезпечаване на демокрацията, част от Германския фонд Маршал. - контейнер. Концепцията, известна като „ дивидента на лъжеца “, беше обрисувана за първи път в академична публикация от 2018 година, в която се аргументира, че „ дълбоките имитации улесняват лъжците да заобикалят отговорността за неща, които в действителност са правилни “.

Изследванията демонстрират също, че самото битие на deepfakes задълбочава недоверието във всичко онлайн, даже и да е същинско. В политиката „ има автократично преимущество да се нападна концепцията, че има такова нещо като справедлива истина “, споделя Шафер.

„ Можете да накарате хората да кажат: „ Гласуването няма значение. Всички ни лъжат. Всичко това е инсценировка. Не можем да направляваме никакви резултати тук. “ Това води до забележителен спад и гражданска ангажираност. “

Социалните медийни компании се пробват да основат парапети за този нов тип активност.

Както Meta, по този начин и Гугъл неотдавна оповестиха политики, изискващи акциите да разкриват, в случай че техните политически реклами са били цифрово изменени. TikTok изисква синтетични или манипулирани медии, които демонстрират реалистични подиуми, да бъдат ясно разкрити посредством стикер, етикет или надпис. Той не разрешава синтетични медии, които вредят на сходството на действителни частни фигури или обществена фигура, в случай че се употребяват за утвърждения, като да вземем за пример измами.

Междувременно X споделя, че или ще етикетира, или ще отстрани лъжливи манипулирани медии, когато предизвикват щета, в това число причинявайки комплициране към политическата непоклатимост.

Но предотвратява публикуването на този тип медии и шерването става все по-трудно даже за компании като TikTok и Meta, които са вложили във висококачествени благоприятни условия за разкриване.

Скоростта и реакцията в действително време са основни. Ако доверието в истинността на един вирусен роман е несигурно и платформите реагират постепенно, това оставя рисков епистемичен вакуум, споделя Айдер, „ за недобросъвестни артисти и по-малко скрупулни медии – изключително пристрастни медии – да влязат и да запълнят тази празнина с удостоверение. ”

Но когато университетските откриватели и екипите за модериране преди този момент са се фокусирали върху откриването на несъответствия в лица, генерирани от изкуствен интелект, споделя Рене Ди Реста, проучвателен управител в Станфорд, в този момент те стартират още веднъж от нулата с огромна част от най-новите генеративни технологии за изкуствен интелект. „ Техниките за разкриване на подправени лица не са подобаващи за по-новите творения на дифузионни модели “, споделя тя.

В по-ранни образци за генерирани имитации чертите на лицето бяха „ подравнени в мрежа “, споделя DiResta, и аномалиите бяха по-лесни за забелязване. Днешните човешки дълбоки имитации могат да бъдат във всяка поза и да се движат видимо естествено. „ Има непрекъсната враждебна динамичност, при която технологията се усъвършенства преди технологията за разкриване. Това е „ казусът с алената кралица “ – бягаме допустимо най-бързо, с цел да останем на едно и също място. “

Експертите са съгласни, че съществуващите принадлежности за разкриване нормално не са задоволително точни, с цел да работят като надеждна и дефинитивна отбрана. „ Разликата в % на разкриване е някак на всички места и има несъответствия “, споделя Листън.

Освен това платформите би трябвало да продължат да уточняват политиките за това по какъв начин по-късно да третират тези дълбоки фалшификации, в случай че те се откриват. „ Сваляте ли тези неща? Етикетирате ли го? Намалявате ли обсега? “ споделя Кейти Харбат, чиновник по световните въпроси в Duco Experts и някогашен шеф по обществена политика на Meta.