Експертите обмисляха какво може да се случи, ако дълбоките фалшификати провалят изборите през 2024 г. Ето резултатите.

Денят на изборите е в Аризона и възрастните гласоподаватели в окръг Марикопа са уведомени по телефона, че местните избирателни секции са затворени поради заплахи от милиции.

Междувременно в Маями вълна от снимки и видеоклипове в социалните медии показват как служители на избирателните секции изхвърлят бюлетини.

Телефонните обаждания в Аризона и видеоклиповете във Флорида се оказват „ deepfakes”, създаден с инструменти за изкуствен интелект. Но докато местните и федералните власти разберат с какво си имат работа, фалшивата информация се разпространи в цялата страна.

Този симулиран сценарий беше част от скорошно учение в Ню Йорк, което събра десетки бивши висши американски и държавни служители, лидери на гражданското общество и ръководители от технологични компании, за да репетират за изборите през 2024 г.

Резултатите бяха отрезвяващи.

Наречено „Дилемата на Deepfake“, упражнението илюстрира как инструментите с активиран AI заплашват да стимулират разпространението на невярна информация във вече поляризира обществото и може да посее хаос на изборите през 2024 г., казаха множество участници пред NBC News. Вместо да изследва отделна атака от група или враждебен режим, учението изследва сценарий с набор от местни и чуждестранни участници, които пускат дезинформация, използват слухове и се възползват от политическите разделения.

The организаторите и участниците във военната игра говориха ексклузивно за NBC News за това как се е разиграла.

Те казаха, че повдига тревожни въпроси за това дали федералните и местните служители - и технологичната индустрия - са готови да противодейства както на чуждестранна, така и на вътрешна дезинформация, предназначена да подкопае общественото доверие в резултатите от изборите.

Сегашните служители на САЩ казват насаме, че споделят тези опасения и че някои щатски и местни изборни агенции ще бъдат притиснати да поддържат изборния процес в правилния план.

Упражнението илюстрира несигурността около ролите на федералните и държавните агенции и технологичните фирми седем месеца преди това, което се очаква да бъде едни от най-разногласните избори в САЩ. история. Федералното правителство има ли способността да открива AI deepfake? Трябва ли Белият дом или държавна избирателна служба публично да обяви, че определен доклад е неверен?

За разлика от природно бедствие, при което правителствените агенции работят чрез централно командване, децентрализираната избирателна система на Америка навлиза неизследвана територия без ясно усещане кой е начело, каза Ник Пениман, главен изпълнителен директор на Issue One, двупартийна организация, насърчаваща политическата реформа и почтеността на изборите.

„Сега, през последните няколко години, ние в Америка трябва да защитаваме атаките срещу нашите избори както от вътрешни, така и от външни сили. Просто нямаме инфраструктурата или историята, за да го направим в мащаб, защото никога не се е налагало да се сблъскваме с толкова сериозни заплахи в миналото“, каза Пениман, който участва в учението.

„Знаем, че ураган в крайна сметка ще удари нашите избори“, каза Пениман. Но в упражнението, „тъй като моделите на съвместна работа не са се формирали, малко хора разбират как точно трябва да се координират с другите или не.“

На макет „Ситуационна стая на Белия дом ” около дълга маса участниците играеха разпределени роли – включително като директори на ФБР, ЦРУ и Министерството на вътрешната сигурност – и преглеждаха тревожните доклади от Аризона и Флорида и множество други непотвърдени заплахи, включително проникване в пощенска служба център за обработка на бюлетини за гласуване по пощата.

Консултирайки се с технологичните компании, играчите, които са били „правителствени служители“, се борят да определят фактите, кой разпространява „deepfakes“ и как правителствените агенции трябва да реагират . (Водещият на MSNBC Алекс Уит също участва в упражнението, играейки ролята на президент на Националната асоциация на радио- и телевизионните оператори.)

В упражнението първоначално не беше ясно, че снимките и видеото на анкетата работниците, които хвърляха бюлетини в Маями, бяха фалшиви. Изображенията бяха разпространени, отчасти поради кампания за текстови съобщения с ботове от Русия.

В крайна сметка служителите успяха да установят, че целият епизод е инсцениран и след това подобрен от изкуствен интелект, за да го направи изглеждат по-убедителни.

В този и други случаи, включително фалшивите обаждания до гласоподавателите в Аризона, играчите се колебаеха кой трябва да направи публично съобщение, казвайки на гласоподавателите, че избирателните им места са безопасни и техните бюлетини са сигурни . Федералните служители се притесняваха, че всяко публично изявление ще се разглежда като опит за увеличаване на шансовете за преизбирането на президента Джо Байдън.

„Имаше също много дебат и несигурност относно това дали Белият Хаус и президентът трябва да се ангажират“, каза Тейлър.

„Един от големите дебати в залата беше чия е работата да казва дали нещо е истинско или фалшиво“, каза той. „Изборните служители на държавно ниво ли казват, че сме установили, че има фалшив? Частни фирми ли? Белият дом ли е?“

Каза Тейлър, „Това е нещо, което смятаме, че също ще видим в този изборен цикъл.“

И въпреки че военната игра си представяше технически ръководители в стаята с федерални служители, в действителност комуникацията между федералното правителство и частните фирми за това как да се противопоставят на чуждестранната пропаганда и дезинформация рязко намаля през последните години.

Вечешното тясно сътрудничество между федерални служители, технологични компании и изследователи, което се разви след изборите през 2016 г., се разпадна поради продължителни атаки на републиканците в Конгреса и съдебни решения, обезкуражаващи федералните агенции да се консултират с компании относно модерирането на онлайн съдържание.

Резултатът е потенциално рискован пропуск в защитата на изборите през 2024 г.

Правителствата на щатите нямат ресурси да открият AI deepfake или да му противодействат бързо с точна информация и сега технологичните компании и някои федерални агенции се притесняват да поемат водеща роля, казаха бивши служители и експерти.

„Всички са ужасени от съдебните дела и... обвиненията в потискане на свободата на словото“, каза Кати Буквар, бивш държавен секретар на Пенсилвания, който участва в учението.

Военната игра в Ню Йорк, плюс подобни сесии, провеждани в други щати, е част от по-широко усилие да се опита за насърчаване на повече комуникация между технически ръководители и правителствени служители, каза Тейлър.

Но в света извън военната игра платформите на социалните медии съкратиха екипите, които модерират фалшиво изборно съдържание, и няма знак, че тези компании са готови да продължат тясно сътрудничество с правителството.

Междувременно държавните и местните изборни служби са изправени пред значителен недостиг на опитен персонал. Вълна от физически и кибернетични заплахи предизвика рекордно изселване на избирателни служители, оставяйки избирателните агенции зле подготвени за ноември.

Загрижени за недостига на персонал и неопитни държавни изборни агенции, коалиция от нестопански организации и Групи за добро управление планират да организират двупартийна национална мрежа от бивши длъжностни лица, технологични специалисти и други, за да помогнат на местните власти да открият дълбоки фалшификации в реално време и да отговорят с точна информация.

„Ние' ще трябва да направим всичко възможно – независимо от федералното правителство и социалните медийни платформи – за да се опитаме да запълним празнината“, каза Пениман, чиято организация участва в усилията за сигурност на изборите.

Буквар, бивш държавен секретар, каза, че се надява организациите с нестопанска цел да действат като мост между технологичните компании и федералното правителство, помагайки за поддържането на комуникационни канали.

Някои от най-големите технологични фирми за изкуствен интелект казват, че въвеждат предпазни мерки за своите продукти и комуникират с правителствени служители, за да помогнат за укрепване на сигурността на изборите преди вота през ноември.

„Преди предстоящите избори OpenAI въведе политики за предотвратяване на злоупотреби, стартира нови функции за увеличаване на прозрачността около съдържанието, генерирано от AI, и разви партньорства за свързване на хората с авторитетни източници на информация за гласуване“, каза говорител. „Продължаваме да работим заедно с правителства, индустриални партньори и гражданско общество към нашата споделена цел за защита на целостта на изборите по целия свят.“

Интернет обаче е пълен с по-малки генеративни - AI компании, които може да не спазват същите тези правила, както и инструменти с отворен код, които позволяват на хората да създават свои собствени генеративни AI програми.

Говорител на ФБР отказа да коментира хипотетична ситуация, но каза, че Специалната група за чуждестранно влияние на бюрото остава федералното ръководство „за идентифициране, разследване и прекъсване на чужди операции за злонамерено влияние, насочени към нашите демократични институции и ценности в Съединените щати.“

Агенцията за киберсигурност и сигурност на инфраструктурата на САЩ заяви, че работи в тясно сътрудничество с държавни и местни агенции за защита на изборите в страната.

„CISA се гордее да продължи да стои рамо до рамо с държавни и местни изборни служители тъй като те защитават нашия изборен процес срещу редица кибернетични, физически и оперативни рискове за сигурността, включително риска от операции за чуждо влияние“, каза старши съветникът Кейт Конли.

За много от тези в стаята за упражнението, сценариите подчертаха необходимостта от разработване на амбициозна обществена образователна кампания, която да помогне на гласоподавателите да разпознаят дълбоките фалшификати и да ваксинират американците от предстоящата атака на чуждестранна и вътрешна дезинформация.

Future US и други групи в момента водят разговори с холивудски писатели и продуценти за разработване на поредица от обществени видеоклипове, които да помогнат за повишаване на осведомеността относно фалшивите видео и аудио клипове по време на предизборната кампания, според Евън Бърфийлд, главен стратегически директор на The Future US .

Но ако кампаниите за обществено образование и други усилия не успеят да овладеят заразата от дезинформация и потенциално насилие, страната може да се изправи пред безпрецедентна задънена улица относно това кой ще спечели изборите.

Ако се повдигнат достатъчно съмнения относно случилото се по време на изборите, има опасност изходът от вота да се превърне в „патова ситуация“ без ясен победител, каза Дани Крайтън от Lux Capital, фирма за рисков капитал, фокусирана върху нововъзникващи технологии, които бяха съ-домакин на упражнението.

Ако достатъчно неща „се объркат или хората останат в урните, тогава просто стигате до равенство“, каза Крайтън. „И за мен това е най-лошият сценарий. ... Не мисля, че нашата система е достатъчно стабилна, за да се справи с това.“

Последвайте ни в