Технологичните компании подписаха споразумение за борба с генерираните от AI изборни измами
Големи софтуерни компании подписаха пакт в петък за непринудено приемане на „ рационални защитни ограничения “, с цел да предотвратят потреблението на принадлежности с изкуствен интелект за спиране на демократичните избори по света.
Технически ръководители от Adobe, Amazon, Гугъл, Meta, Microsoft, OpenAI и TikTok се събраха на конференцията по сигурността в Мюнхен, с цел да разгласят нова доброволна рамка за това по какъв начин ще реагират на генерирани от AI deepfakes, които съзнателно подмамват гласоподавателите. Тринадесет други компании — в това число IBM и X на Илон Мъск — също подписват съглашението.
„ Всички признават, че нито една софтуерна компания, нито едно държавно управление, нито една организация на гражданското общество не е в положение да се оправи с навлизането на тази технология и вероятното й нечестиво потребление независимо “, сподели Ник Клег, президент по световните въпроси на Meta, компанията майка на Фейсбук и Instagram, в изявление преди срещата.
Споразумението е значително алегорично, само че е ориентирано към все по-реалистични изображения, аудио и видео, генерирани от изкуствен интелект, „ които лъжливо фалшифицират или трансформират външния тип, гласа или дейностите на политически претенденти, изборни чиновници и други основни заинтригувани страни в демократични избори, или които дават погрешна информация на гласоподавателите за това по кое време, къде и по какъв начин могат да гласоподават законно. “
Компаниите не се ангажират да не разрешават или отстраняват deepfakes. Вместо това, съглашението обрисува методите, които те ще употребяват, с цел да се опитат да открият и етикетират лъжливо AI наличие, когато то се основава или популяризира на техните платформи. Отбелязва се, че фирмите ще споделят най-хубави практики една с друга и ще дават „ бързи и пропорционални отговори “, когато това наличие стартира да се популяризира.
Неяснотата на уговорките и неналичието на каквито и да е обвързващи условия евентуално помогнаха да се завоюват разнородни компании, само че може да разочароват продемократичните деятели и наблюдаващите, които търсят по-силни гаранции.
„ Всяка компания с право има собствен личен набор от правила за наличието “, сподели Клег. „ Това не е опит да се наложи усмирителна риза на всички. И във всеки случай, никой в индустрията не мисли, че можете да се справите с напълно нова софтуерна парадигма, като замитате нещата под килима и се пробвате да играете на къртица и да намерите всичко, което смятате, че може да подведе някого. “
Споразумението на годишната среща по сигурността в немския град идва, защото повече от 50 страни би трябвало да проведат национални избори през 2024 година Някои към този момент са го създали, в това число Бангладеш, Тайван, Пакистан и неотдавна Индонезия.
Опитите за генерирана от AI интервенция в избори към този момент са почнали, като да вземем за пример, когато AI robot calls, които имитираха гласа на президента на Съединени американски щати Джо Байдън, се пробваха да обезсърчат хората да гласоподават на първичните избори в Ню Хемпшир предишния месец.
Само дни преди изборите в Словакия през ноември, генерирани от AI аудиозаписи, представящи демократичен претендент, обсъждащ проекти за повишение на цените на бирата и подправяне на изборите. Проверяващите обстоятелства се опитваха да ги разпознават като погрешни, само че те към този момент бяха необятно споделени като същински в обществените медии.
Политици и предизборни комисии също опитаха с технологията, от потреблението на AI чатботове за връзка с гласоподавателите до прибавяне на Генерирани от AI изображения към реклами.
Преди изборите в Индонезия, водач на политическа партия показа видео, клонирайки лицето и гласа на умрелия деспот Сухарто. Публикацията на X разкрива, че видеото е генерирано от AI, само че някои онлайн критици го нарекоха корист с принадлежности за AI за заплашване и въздействие на гласоподавателите. обърнете внимание на подтекста и по-специално на запазването на просветителни, документални, артистични, сатирични и политически изрази. “
В него се споделя, че фирмите ще се съсредоточат върху прозрачността за потребителите по отношение на техните политики по отношение на лъжливо наличие за избори с изкуствен интелект и ще работят, с цел да образоват обществеността за това по какъв начин могат да избегнат имитации с изкуствен интелект.
Много от фирмите към този момент са го създали споделиха, че слагат защитни ограничения върху личните си генеративни AI принадлежности, които могат да манипулират изображения и тон, като в същото време работят за идентифициране и етикетиране на генерирано от AI наличие, тъй че потребителите на обществените медии да знаят дали това, което виждат, е действително. Но множеството от препоръчаните решения към момента не са въведени и фирмите са изправени пред напън от страна на регулаторите и други да създадат повече.
Този напън се ускорява в Съединени американски щати, където Конгресът към момента не е приел закони, регулиращи ИИ в политиката, оставяйки AI фирмите значително да се ръководят сами. При неналичието на федерално законодателство доста щати обмислят способи за слагане на парапети към потреблението на AI, в избори и други приложения.
Федералната комисия по връзките неотдавна удостовери, че генерираните от AI аудио клипове в роботизирани диалози са срещу закон, само че това не обгръща аудио фалшификатите, когато те се популяризират в обществените медии или в реклами на акцията.
Експертите по дезинформация предизвестяват, че въпреки фалшификатите с изкуствен интелект да са изключително притеснителни заради капацитета им да прелетят под радара и да повлияят на гласоподавателите, това година, по-евтините и по-прости форми на дезинформация остават съществена опасност. В съглашението се отбелязва и това, като се признава, че „ обичайните операции („ евтини имитации “) могат да се употребяват за сходни цели. “
Много компании за обществени медии към този момент имат въведени политики за въздържане на лъжливи изявления за изборни процеси – генерирани от AI или не. Например Meta споделя, че отстранява дезинформация по отношение на „ датите, местата, часовете и методите за гласоподаване, регистрация на гласоподаватели или присъединяване в преброяването “, както и други подправени изявления, предопределени да попречат на нечие гражданско присъединяване.
Джеф Алън, съосновател на Integrity Institute и някогашен експерт по данни във Фейсбук, сподели, че съглашението наподобява като „ позитивна стъпка “, само че въпреки всичко би желал фирмите за обществени медии да подхващат други съществени дейности за битка с дезинформацията, като създаване на системи за препоръчване на наличие, които не дават приоритет на ангажираността на първо място.
В допълнение към главните платформи, които помогнаха за постигането на петъчното съглашение, други подписали включват разработчици на чатботове Anthropic и Inflection AI; пускане на гласово клониране ElevenLabs; дизайнер на чипове Arm Holdings; фирмите за сигурност McAfee и TrendMicro; и Stability AI, прочут с това, че прави генератора на изображения Stable Diffusion.
Забележително липсва в съглашението различен известен AI генератор на изображения, Midjourney. Базираният в Сан Франциско стартъп не върна незабавно молба за коментар в петък.
Включването на X — неспоменато в по-ранно известие за идното съглашение — беше една от най-големите изненади на съглашението от петък. Мъск внезапно ограничи екипите за модериране на наличие, откакто пое някогашния Twitter и се разказа като „ абсолютист на свободата на словото “.
Но в изказване в петък основният изпълнителен шеф на X Линда Яккарино сподели, че „ всеки жител и компания носи отговорност да подсигурява свободни и почтени избори. “
„ X е предан да играе своята роля, като си сътрудничи с връстници за борете се със заканите от ИИ, като в същото време защитавате свободата на словото и увеличавате оптимално прозрачността “, сподели тя.
__
Асошиейтед прес получава поддръжка от няколко частни фондации, с цел да усъвършенства своето обяснително отразяване на изборите и демокрацията. Вижте повече за самодейността за народна власт на AP тук. AP е само виновен за цялото наличие.
