Технологичните компании подписаха пакт за борба с намесата на AI в изборите

Големи софтуерни компании подписаха пакт в петък за непринудено приемане на „ рационални защитни ограничения “, с цел да предотвратят потреблението на принадлежности с изкуствен интелект за спиране на демократичните избори по света.

Технически ръководители от Adobe, Amazon, Гугъл, IBM, Meta, Microsoft, OpenAI и TikTok се събраха на конференцията по сигурността в Мюнхен, с цел да разгласят нова доброволна рамка за това по какъв начин ще реагират на генерирани от AI deepfakes, които съзнателно мамят гласоподавателите. Дванадесет други компании — в това число X на Илън Мъск — също подписват съглашението.

„ Всички признават, че нито една софтуерна компания, нито едно държавно управление, нито една организация на гражданското общество не е в положение да се оправи с появяването на тази технология и нейното допустимо непочтено потребление независимо “, сподели Ник Клег, президент по световните въпроси на Meta, компанията майка на Фейсбук и Instagram, в изявление преди срещата.

Споразумението значително е алегоричен, само че ориентиран към все по-реалистични изображения, аудио и видео, генерирани от изкуствен интелект, „ които лъжливо фалшифицират или трансформират външния тип, гласа или дейностите на политически претенденти, изборни чиновници и други основни заинтригувани страни в демократични избори или които дават погрешна информация на гласоподавателите за това по кое време, къде и по какъв начин могат законно да гласоподават. “

Компаниите не се ангажират да не разрешават или отстраняват deepfakes. Вместо това, съглашението обрисува методите, които те ще употребяват, с цел да се опитат да открият и етикетират лъжливо AI наличие, когато то се основава или популяризира на техните платформи. Отбелязва се, че фирмите ще споделят най-хубави практики между тях и ще обезпечат „ бързи и пропорционални отговори “, когато това наличие стартира да се популяризира.

Неяснотата на уговорките и неналичието на каквито и да е обвързващи условия евентуално са помогнали за спечелването на разнообразни редица компании, само че може да разочарова продемократичните деятели и наблюдаващите, търсещи по-силни гаранции.

„ Езикът не е толкоз мощен, колкото може да се чака “, сподели Рейчъл Ори, старши асоцииран шеф на Проект за избори в Центъра за двупартийна политика. „ Мисля, че би трябвало да отдадем заслуженото, където би трябвало, и да признаем, че фирмите в действителност имат персонален интерес техните принадлежности да не бъдат употребявани за подкопаване на свободни и почтени избори. Въпреки това, това е непринудено и ние ще следим дали те го следват. “

Клег сподели, че всяка компания „ напълно вярно има собствен личен набор от политики за наличието. “

„ Това не е опит за налагане на усмирителна риза на всички “, сподели той. „ И във всеки случай, никой в ​​индустрията не мисли, че можете да се справите с напълно нова софтуерна парадигма, като замитате нещата под килима и се пробвате да играете на къртица и да намерите всичко, което смятате, че може да подведе някого. “

Техническите ръководители също се причислиха от няколко европейски и американски политически водачи при известието в петък. Вицепрезидентът на Европейската комисия Вера Йоурова сподели, че макар че такова съглашение не може да бъде изчерпателно, „ то съдържа доста въздействащи и позитивни детайли “. Тя също по този начин прикани сътрудниците си политици да поемат отговорност да не употребяват AI инструментите лъжливо.

Тя акцентира сериозността на казуса, като сподели, че „ комбинацията от AI, обслужващ задачите на дезинформацията, и акции за дезинформация може да е краят на демокрацията, освен в държавите-членки на Европейски Съюз. “

Споразумението на годишната среща по сигурността в немския град идва, защото повече от 50 страни би трябвало да проведат национални избори през 2024 година Някои към този момент са го създали, в това число Бангладеш, Тайван, Пакистан и най-скоро Индонезия.

Опитите за генерирана от AI интервенция в избори към този момент са почнали, като да вземем за пример, когато AI robot calls, които имитираха гласа на президента на Съединени американски щати Джо Байдън, се пробваха да обезсърчат хората да гласоподават на първичните избори в Ню Хемпшир предишния месец.

Само дни преди изборите в Словакия през ноември, генерирани от изкуствен интелект аудиозаписи имитират демократичен претендент, обсъждащ проекти за повишение на цените на бирата и подправяне на изборите. Проверяващите обстоятелства се опитваха да ги разпознават като погрешни, само че те към този момент бяха необятно споделени като същински в обществените медии.

Политици и предизборни комисии също опитаха с технологията, от потреблението на AI чатботове за връзка с гласоподавателите до прибавяне на Генерирани от AI изображения към реклами.

Споразумението от петък споделя в отговор на генерираните от AI deepfakes платформи „ ще извърнат внимание на подтекста и по-специално на запазването на просветителни, документални, артистични, сатирични и политически изрази “.

В него се споделя, че фирмите ще се съсредоточат върху прозрачността за потребителите по отношение на техните политики по отношение на лъжливото изборно наличие с изкуствен интелект и ще работят, с цел да образоват обществеността за това по какъв начин могат да избегнат имитации с изкуствен интелект.

Много от фирмите по-рано споделиха, че слагат защитни ограничения върху личните си генеративни AI принадлежности, които могат да манипулират изображения и тон, като в същото време работят за идентифициране и етикетиране на генерирано от AI наличие, тъй че потребителите на обществените медии да знаят дали това, което виждат, е действително. Но множеството от препоръчаните решения към момента не са въведени и фирмите са изправени пред напън от страна на регулаторите и други да създадат повече.

Този напън се ускорява в Съединени американски щати, където Конгресът към момента не е приел закони, регулиращи ИИ в политиката, оставяйки AI фирмите значително да се ръководят сами. При неналичието на федерално законодателство доста щати обмислят способи за слагане на парапети към потреблението на AI, в избори и други приложения.

Федералната комисия по връзките неотдавна удостовери, че генерираните от AI аудио клипове в роботизирани диалози са срещу закон, само че това не обгръща аудио фалшификатите, когато те се популяризират в обществените медии или в реклами на акцията.

Експертите по дезинформация предизвестяват, че въпреки фалшификатите с изкуствен интелект да са изключително притеснителни заради капацитета им да прелетят под радара и да повлияят на гласоподавателите, това година, по-евтините и по-прости форми на дезинформация остават съществена опасност. В съглашението се отбелязва и това, като се признава, че „ обичайните операции („ евтини имитации “) могат да се употребяват за сходни цели. “

Много компании за обществени медии към този момент имат въведени политики за въздържане на лъжливи изявления за изборни процеси — AI- генерирани или не. Например Meta споделя, че отстранява дезинформация по отношение на „ датите, местата, часовете и методите за гласоподаване, регистрация на гласоподаватели или присъединяване в преброяването “, както и други подправени изявления, предопределени да попречат на нечие гражданско присъединяване.

Джеф Алън, съосновател на Integrity Institute и някогашен експерт по данни във Фейсбук, сподели, че съглашението наподобява като „ позитивна стъпка “, само че въпреки всичко би желал фирмите за обществени медии да подхващат други съществени дейности за битка с дезинформацията, като създаване на системи за препоръчване на наличие, които не дават приоритет на ангажираността над всичко друго.

Лиза Гилбърт, изпълнителен вицепрезидент на застъпническата група Public Citizen, твърди в петък, че съглашението „ не е задоволително “ и фирмите за изкуствен интелект би трябвало „ да се въздържат технология “, като да вземем за пример хиперреалистични генератори на текст към видео, „ до момента в който има основни и съответни защитни ограничения, които да ни оказват помощ да предотвратим доста евентуални проблеми. “

В допълнение към главните платформи, които помогнаха за постигането на съглашението от петък, други подписали включват разработчици на чатботове Anthropic и Inflection AI; пускане на гласово клониране ElevenLabs; дизайнер на чипове Arm Holdings; фирмите за сигурност McAfee и TrendMicro; и Stability AI, прочут с това, че прави генератора на изображения Stable Diffusion.

Забележително отсъства от съглашението различен известен AI генератор на изображения, Midjourney. Базираният в Сан Франциско стартъп не върна незабавно молба за коментар в петък.

Включването на X — неспоменато в по-ранно известие за идното съглашение — беше една от най-големите изненади на съглашението от петък. Мъск внезапно ограничи екипите за модериране на наличие, откакто пое някогашния Twitter и се разказа като „ абсолютист на свободата на словото “.

Но в изказване в петък изпълнителният шеф на X Линда Якарино сподели, че „ всеки жител и компания има отговорност за гарантиране на свободни и почтени избори. “

„ X е предан да играе своята роля, да си сътрудничи с сътрудници за битка със заканите от ИИ, като в същото време пази свободата на словото и усилва оптимално прозрачността “, сподели тя.