Технологичните компании подписаха пакт за борба с намесата на AI в изборите

Големи технологични компании подписаха пакт в петък за доброволно приемане на „разумни предпазни мерки“, за да предотвратят използването на инструменти с изкуствен интелект за прекъсване на демократичните избори по света.

Технически ръководители от Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI и TikTok се събраха на конференцията по сигурността в Мюнхен, за да обявят нова доброволна рамка за това как ще реагират на генерирани от AI deepfakes, които умишлено мамят избирателите. Дванадесет други компании — включително X на Илън Мъск — също подписват споразумението.

„Всички признават, че нито една технологична компания, нито едно правителство, нито една организация на гражданското общество не е в състояние да се справи с появата на тази технология и нейното възможно нечестно използване самостоятелно“, каза Ник Клег, президент по глобалните въпроси на Meta, компанията майка на Facebook и Instagram, в интервю преди срещата.

Споразумението до голяма степен е символичен, но насочен към все по-реалистични изображения, аудио и видео, генерирани от изкуствен интелект, „които измамно фалшифицират или променят външния вид, гласа или действията на политически кандидати, изборни служители и други ключови заинтересовани страни в демократични избори или които предоставят невярна информация на избирателите за това кога, къде и как могат законно да гласуват.“

Компаниите не се ангажират да забраняват или премахват deepfakes. Вместо това, споразумението очертава методите, които те ще използват, за да се опитат да открият и етикетират измамно AI съдържание, когато то се създава или разпространява на техните платформи. Отбелязва се, че компаниите ще споделят най-добри практики помежду си и ще осигурят „бързи и пропорционални отговори“, когато това съдържание започне да се разпространява.

Неяснотата на ангажиментите и липсата на каквито и да е обвързващи изисквания вероятно са помогнали за спечелването на различни редица компании, но може да разочарова продемократичните активисти и наблюдателите, търсещи по-силни гаранции.

„Езикът не е толкова силен, колкото може да се очаква“, каза Рейчъл Ори, старши асоцииран директор на Проект за избори в Центъра за двупартийна политика. „Мисля, че трябва да отдадем заслуженото, където трябва, и да признаем, че компаниите наистина имат личен интерес техните инструменти да не бъдат използвани за подкопаване на свободни и честни избори. Въпреки това, това е доброволно и ние ще следим дали те го следват.“

Клег каза, че всяка компания „съвсем правилно има свой собствен набор от политики за съдържанието.“

„Това не е опит за налагане на усмирителна риза на всички“, каза той. „И във всеки случай, никой в ​​индустрията не мисли, че можете да се справите с изцяло нова технологична парадигма, като замитате нещата под килима и се опитвате да играете на къртица и да намерите всичко, което смятате, че може да подведе някого.“

Техническите ръководители също се присъединиха от няколко европейски и американски политически лидери при съобщението в петък. Вицепрезидентът на Европейската комисия Вера Йоурова каза, че въпреки че такова споразумение не може да бъде изчерпателно, „то съдържа много въздействащи и положителни елементи“. Тя също така призова колегите си политици да поемат отговорност да не използват AI инструментите измамно.

Тя подчерта сериозността на проблема, като каза, че „комбинацията от AI, обслужващ целите на дезинформацията, и кампании за дезинформация може да е краят на демокрацията , не само в държавите-членки на ЕС.“

Споразумението на годишната среща по сигурността в германския град идва, тъй като повече от 50 страни трябва да проведат национални избори през 2024 г. Някои вече са го направили, включително Бангладеш, Тайван, Пакистан и най-скоро Индонезия.

Опитите за генерирана от AI намеса в избори вече са започнали, като например, когато AI robot calls, които имитираха гласа на президента на САЩ Джо Байдън, се опитаха да обезсърчат хората да гласуват на първичните избори в Ню Хемпшир миналия месец.

Само дни преди изборите в Словакия през ноември, генерирани от изкуствен интелект аудиозаписи имитират либерален кандидат, обсъждащ планове за повишаване на цените на бирата и фалшифициране на изборите. Проверяващите факти се опитваха да ги идентифицират като неверни, но те вече бяха широко споделени като истински в социалните медии.

Политици и предизборни комисии също експериментираха с технологията, от използването на AI чатботове за комуникация с избирателите до добавяне на Генерирани от AI изображения към реклами.

Споразумението от петък казва в отговор на генерираните от AI deepfakes платформи „ще обърнат внимание на контекста и по-специално на запазването на образователни, документални, артистични, сатирични и политически изрази“.

В него се казва, че компаниите ще се съсредоточат върху прозрачността за потребителите относно техните политики относно измамното избирателно съдържание с изкуствен интелект и ще работят, за да образоват обществеността за това как могат да избегнат фалшификати с изкуствен интелект.

Много от компаниите по-рано казаха, че поставят предпазни мерки върху собствените си генеративни AI инструменти, които могат да манипулират изображения и звук, като същевременно работят за идентифициране и етикетиране на генерирано от AI съдържание, така че потребителите на социалните медии да знаят дали това, което виждат, е реално. Но повечето от предложените решения все още не са въведени и компаниите са изправени пред натиск от страна на регулаторите и други да направят повече.

Този натиск се засилва в САЩ, където Конгресът все още не е приел закони, регулиращи ИИ в политиката, оставяйки AI компаниите до голяма степен да се управляват сами. При липсата на федерално законодателство много щати обмислят начини за поставяне на парапети около използването на AI, в избори и други приложения.

Федералната комисия по комуникациите наскоро потвърди, че генерираните от AI аудио клипове в роботизирани разговори са против закон, но това не обхваща аудио фалшификатите, когато те се разпространяват в социалните медии или в реклами на кампанията.

Експертите по дезинформация предупреждават, че макар фалшификатите с изкуствен интелект да са особено обезпокоителни поради потенциала им да прелетят под радара и да повлияят на избирателите, това година, по-евтините и по-прости форми на дезинформация остават основна заплаха. В споразумението се отбелязва и това, като се признава, че „традиционните манипулации („евтини фалшификати“) могат да се използват за подобни цели.“

Много компании за социални медии вече имат въведени политики за възпиране на измамни публикации за изборни процеси — AI- генерирани или не. Например Meta казва, че премахва дезинформация относно „датите, местата, часовете и методите за гласуване, регистрация на гласоподаватели или участие в преброяването“, както и други фалшиви публикации, предназначени да попречат на нечие гражданско участие.

Джеф Алън, съосновател на Integrity Institute и бивш специалист по данни във Facebook, каза, че споразумението изглежда като „положителна стъпка“, но все пак би искал компаниите за социални медии да предприемат други основни действия за борба с дезинформацията, като изграждане на системи за препоръчване на съдържание, които не дават приоритет на ангажираността над всичко друго.

Лиза Гилбърт, изпълнителен вицепрезидент на застъпническата група Public Citizen, твърди в петък, че споразумението „не е достатъчно“ и компаниите за изкуствен интелект трябва „да се въздържат технология“, като например хиперреалистични генератори на текст към видео, „докато има съществени и адекватни предпазни мерки, които да ни помогнат да предотвратим много потенциални проблеми.“

В допълнение към основните платформи, които помогнаха за постигането на споразумението от петък , други подписали включват разработчици на чатботове Anthropic и Inflection AI; стартиране на гласово клониране ElevenLabs; дизайнер на чипове Arm Holdings; компаниите за сигурност McAfee и TrendMicro; и Stability AI, известен с това, че прави генератора на изображения Stable Diffusion.

Забележително отсъства от споразумението друг популярен AI генератор на изображения, Midjourney. Базираният в Сан Франциско стартъп не върна веднага молба за коментар в петък.

Включването на X — неспоменато в по-ранно съобщение за предстоящото споразумение — беше една от най-големите изненади на споразумението от петък. Мъск рязко ограничи екипите за модериране на съдържание, след като пое бившия Twitter и се описа като „абсолютист на свободата на словото“.

Но в изявление в петък изпълнителният директор на X Линда Якарино каза, че „всеки гражданин и компания има отговорност за гарантиране на свободни и честни избори.“

„X е отдаден да играе своята роля, да си сътрудничи с колеги за борба със заплахите от ИИ, като същевременно защитава свободата на словото и увеличава максимално прозрачността“, каза тя.

Последвайте ни в