Експертите обмисляха какво може да се случи, ако дълбоките фалшификати провалят изборите през 2024 г. Ето резултатите.

Денят на изборите е в Аризона и възрастните гласоподаватели в окръг Марикопа са известени по телефона, че локалните изборни секции са затворени заради закани от милиции.

Междувременно в Маями вълна от фотоси и видеоклипове в обществените медии демонстрират по какъв начин чиновници на изборните секции изхвърлят бюлетини.

Телефонните позвънявания в Аризона и видеоклиповете във Флорида се оказват „ deepfakes ”, основан с принадлежности за изкуствен интелект. Но до момента в който локалните и федералните управляващи схванат с какво си имат работа, подправената информация се популяризира в цялата страна.

Този симулиран сюжет беше част от скорошно обучение в Ню Йорк, което събра десетки някогашни висши американски и държавни чиновници, водачи на гражданското общество и ръководители от софтуерни компании, с цел да репетират за изборите през 2024 година

Резултатите бяха отрезвяващи.

Наречено „ Дилемата на Deepfake “, упражнението илюстрира по какъв начин инструментите с задействан AI заплашват да подтикват разпространяването на погрешна информация във към този момент поляризира обществото и може да посее безпорядък на изборите през 2024 година, споделиха голям брой участници пред NBC News. Вместо да изследва обособена офанзива от група или неприятелски режим, учението изследва сюжет с набор от локални и задгранични участници, които пускат дезинформация, употребяват клюки и се възползват от политическите разделения.

The уредниците и участниците във военната игра приказваха извънредно за NBC News за това по какъв начин се е разиграла.

Те споделиха, че повдига тревожни въпроси за това дали федералните и локалните чиновници - и софтуерната промишленост - са подготвени да противодейства както на задгранична, по този начин и на вътрешна дезинформация, предопределена да подкопае публичното доверие в резултатите от изборите.

Сегашните чиновници на Съединени американски щати споделят уединено, че споделят тези опасения и че някои щатски и локални изборни организации ще бъдат притиснати да поддържат изборния развой в верния проект.

Упражнението илюстрира несигурността към функциите на федералните и държавните организации и софтуерните компании седем месеца преди това, което се чака да бъде едни от най-разногласните избори в Съединени американски щати. история. Федералното държавно управление има ли способността да открива AI deepfake? Трябва ли Белият дом или държавна изборна работа обществено да разгласи, че избран отчет е погрешен?

За разлика от естествено злополучие, при което държавните организации работят посредством централно командване, децентрализираната изборна система на Америка навлиза неразучена територия без ясно чувство кой е отпред, сподели Ник Пениман, основен изпълнителен шеф на Issue One, двупартийна организация, насърчаваща политическата промяна и честността на изборите.

„ Сега, през последните няколко години, ние в Америка би трябвало да пазиме офанзивите против нашите избори както от вътрешни, по този начин и от външни сили. Просто нямаме инфраструктурата или историята, с цел да го създадем в мащаб, тъй като в никакъв случай не се е налагало да се сблъскваме с толкоз съществени закани в предишното “, сподели Пениман, който взе участие в учението.

„ Знаем, че вихър в последна сметка ще удари нашите избори “, сподели Пениман. Но в упражнението, „ защото моделите на взаимна работа не са се формирали, малко хора схващат по какъв начин тъкмо би трябвало да се координират с другите или не. “

На макет „ Ситуационна стая на Белия дом ” към дълга маса участниците играеха разпределени функции – в това число като шефове на ФБР, Централно разузнавателно управление на САЩ и Министерството на вътрешната сигурност – и преглеждаха тревожните отчети от Аризона и Флорида и голям брой други непотвърдени закани, в това число навлизане в пощенска работа център за обработка на бюлетини за гласоподаване по пощата.

Консултирайки се с софтуерните компании, играчите, които са били „ държавни чиновници “, се борят да дефинират обстоятелствата, кой популяризира „ deepfakes “ и по какъв начин държавните организации би трябвало да реагират. (Водещият на MSNBC Алекс Уит също взе участие в упражнението, играейки ролята на президент на Националната асоциация на радио- и телевизионните оператори.)

В упражнението в началото не беше ясно, че снимките и видеото на анкетата служащите, които хвърляха бюлетини в Маями, бяха подправени. Изображенията бяха разпространени, частично заради акция за текстови известия с ботове от Русия.

В последна сметка чиновниците съумяха да открият, че целият епизод е инсцениран и по-късно усъвършенстван от изкуствен интелект, с цел да го направи наподобяват по-убедителни.

В този и други случаи, в това число подправените позвънявания до гласоподавателите в Аризона, играчите се колебаеха кой би трябвало да направи обществено известие, казвайки на гласоподавателите, че изборните им места са безвредни и техните бюлетини са сигурни. Федералните чиновници се притесняваха, че всяко обществено изказване ще се преглежда като опит за увеличение на възможностите за преизбирането на президента Джо Байдън.

„ Имаше също доста спор и неустановеност по отношение на това дали Белият Хаус и президентът би трябвало да се ангажират “, сподели Тейлър.

„ Един от огромните диспути в залата беше чия е работата да споделя дали нещо е същинско или подправено “, сподели той. „ Изборните чиновници на държавно равнище ли споделят, че сме открили, че има подправен? Частни компании ли? Белият дом ли е? “

Каза Тейлър, „ Това е нещо, което считаме, че също ще забележим в този избирателен цикъл. “

И макар че военната игра си представяше механически ръководители в стаята с федерални чиновници, в реалност връзката сред федералното държавно управление и частните компании за това по какъв начин да се опълчват на задграничната агитация и дезинформация внезапно понижа през последните години.

Вечешното тясно сътрудничество между федерални чиновници, софтуерни компании и откриватели, което се разви след изборите през 2016 година, се разпадна заради продължителни офанзиви на републиканците в Конгреса и правосъдни решения, обезкуражаващи федералните организации да се съветват с компании по отношение на модерирането на онлайн наличие.

Резултатът е евентуално опасен пропуск в отбраната на изборите през 2024 година

Правителствата на щатите нямат запаси да открият AI deepfake или да му противодействат бързо с точна информация и в този момент софтуерните компании и някои федерални организации се тормозят да поемат водеща роля, споделиха някогашни чиновници и специалисти.

„ Всички са ужасени от правосъдните каузи и... обвиняванията в угнетяване на свободата на словото “, сподели Кати Буквар, някогашен държавен секретар на Пенсилвания, който взе участие в учението.

Военната игра в Ню Йорк, плюс сходни сесии, провеждани в други щати, е част от по-широко изпитание да се опита за поощряване на повече връзка сред механически ръководители и държавни чиновници, сподели Тейлър.

Но в света отвън военната игра платформите на обществените медии редуцираха екипите, които модерират подправено изборно наличие, и няма знак, че тези компании са подготвени да продължат тясно съдействие с държавното управление.

Междувременно държавните и локалните изборни служби са изправени пред забележителен дефицит на умел личен състав. Вълна от физически и кибернетични закани провокира рекордно изселване на изборни чиновници, оставяйки изборните организации зле готови за ноември.

Загрижени за дефицита на личен състав и неопитни държавни изборни организации, коалиция от нестопански организации и Групи за положително ръководство възнамеряват да провеждат двупартийна национална мрежа от някогашни длъжностни лица, софтуерни експерти и други, с цел да оказват помощ на локалните управляващи да открият дълбоки фалшификации в действително време и да отговорят с точна информация.

„ Ние' ще би трябвало да създадем всичко допустимо – без значение от федералното държавно управление и обществените медийни платформи – с цел да се опитаме да запълним празнината “, сподели Пениман, чиято организация взе участие в напъните за сигурност на изборите.

Буквар, някогашен държавен секретар, сподели, че се надява организациите с нестопанска цел да работят като мост сред софтуерните компании и федералното държавно управление, помагайки за поддържането на информационни канали.

Някои от най-големите софтуерни компании за изкуствен интелект споделят, че вкарват защитни ограничения за своите артикули и споделят с държавни чиновници, с цел да оказват помощ за подсилване на сигурността на изборите преди вота през ноември.

„ Преди идните избори OpenAI вкара политики за попречване на злоупотреби, започва нови функционалности за увеличение на прозрачността към наличието, генерирано от AI, и разви партньорства за свързване на хората с авторитетни източници на информация за гласоподаване “, сподели представител. „ Продължаваме да работим дружно с държавни управления, индустриални сътрудници и гражданско общество към нашата споделена цел за отбрана на целостта на изборите по целия свят. “

Интернет обаче е цялостен с по-малки генеративни - AI компании, които може да не съблюдават същите тези правила, както и принадлежности с отворен код, които разрешават на хората да основават свои лични генеративни AI стратегии.

Говорител на ФБР отхвърли да разяснява хипотетична обстановка, само че сподели, че Специалната група за задгранично въздействие на бюрото остава федералното управление „ за идентифициране, следствие и спиране на непознати интервенции за злонамерено въздействие, ориентирани към нашите демократични институции и полезности в Съединените щати. “

Агенцията за киберсигурност и сигурност на инфраструктурата на Съединени американски щати съобщи, че работи в тясно съдействие с държавни и локални организации за отбрана на изборите в страната.

„ CISA се гордее да продължи да стои един до друг с държавни и локални изборни чиновници защото те пазят нашия избирателен развой против редица кибернетични, физически и оперативни опасности за сигурността, в това число риска от интервенции за непознато въздействие “, сподели старши съветникът Кейт Конли.

За доста от тези в стаята за упражнението, сюжетите подчертаха нуждата от създаване на амбициозна социална просветителна акция, която да помогне на гласоподавателите да разпознаят дълбоките имитации и да имунизират американците от идната офанзива на задгранична и вътрешна дезинформация.

Future US и други групи сега водят диалози с холивудски писатели и продуценти за създаване на поредност от публични видеоклипове, които да оказват помощ за повишение на осведомеността по отношение на подправените видео и аудио клипове по време на предизборната акция, съгласно Евън Бърфийлд, основен стратегически шеф на The Future US.

Но в случай че акциите за публично обучение и други старания не съумеят да овладеят болестта от дезинформация и евентуално принуждение, страната може да се изправи пред невиждана задънена улица по отношение на това кой ще завоюва изборите.

Ако се издигнат задоволително подозрения по отношение на случилото се по време на изборите, има заплаха изходът от вота да се трансформира в „ патова обстановка “ без явен победител, сподели Дани Крайтън от Lux Capital, компания за рисков капитал, фокусирана върху нововъзникващи технологии, които бяха съ-домакин на упражнението.

Ако задоволително неща „ се объркат или хората останат в урните, тогава просто стигате до тъждество “, сподели Крайтън. „ И за мен това е най-лошият сюжет.... Не мисля, че нашата система е задоволително постоянна, с цел да се оправи с това. “