Големи технологични компании подписват споразумение за борба с генерираната от изкуствен интелект изборна дезинформация

Meta, OpenAI, TikTok, Microsoft и Amazon бяха сред подписалите споразумението на Мюнхенската конференция по сигурността. X на Илон Мъск също се записа.

Големи технологични компании подписаха пакт в петък за доброволно приемане на „разумни предпазни мерки“, за да предотвратят използването на инструменти за изкуствен интелект (AI) за прекъсване на демократичните избори по света.

Ръководители от Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI и TikTok се събраха на Мюнхенската конференция по сигурността, за да обявят нова рамка за това как реагират на това, че умишлено подмамват избирателите.

Други дванадесет компании – включително X на Илон Мъск – също подписват споразумението.

„Всички признава, че нито една технологична компания, нито едно правителство, нито една организация на гражданското общество не е в състояние сама да се справи с навлизането на тази технология и нейната възможна нечестна употреба“, каза Ник Клег, президент по глобалните въпроси на Meta, компанията майка на Facebook и Instagram, в интервю преди срещата.

Споразумението е до голяма степен символично, но е насочено към все по-реалистични изображения, аудио и видео, генерирани от AI, „които измамно фалшифицират или променят външния вид, гласа, или действия на политически кандидати, изборни длъжностни лица и други ключови заинтересовани страни в демократични избори, или които предоставят невярна информация на избирателите относно това кога, къде и как могат законно да гласуват".

Компаниите не са ангажиране да забрани или премахне deepfakes. Вместо това, споразумението очертава методите, които те ще използват, за да се опитат да открият и етикетират измамно AI съдържание, когато то се създава или разпространява на техните платформи.

Отбелязва се, че компаниите ще споделят най-добри практики и ще осигурят „бързи и пропорционални отговори“, когато това съдържание започне да се разпространява.

Липса на обвързващи изисквания

Неяснотата на ангажиментите и липсата на каквито и да е обвързващи изисквания вероятно помогнаха да се спечелят разнообразни компании, но разочарованите защитници търсеха по-силни гаранции.

„Езикът не е толкова силен, колкото можеше да се очаква“, каза Рейчъл Ори, старши асоцииран директор на проекта за избори в Центъра за двупартийна политика.

„Мисля, че трябва да отдадем заслуженото там, където трябва, и да признаем, че компаниите наистина имат личен интерес техните инструменти да не бъдат използвани за подкопаване на свободни и честни избори. Това каза, че е доброволно и ние ще следим дали те следват."

Клег каза, че всяка компания "съвсем правилно има свой собствен набор от политики за съдържанието".

„Това не е опит да се наложи усмирителна риза на всички“, каза той.

„И във всеки случай никой в ​​индустрията не мисли, че можете да се справите с изцяло нова технологична парадигма, като замитате нещата под килима и се опитвате да играете на къртица и да намирате всичко, което мислите може да подведе някого".

Няколко политически лидери от Европа и САЩ също се присъединиха към съобщението в петък. Вицепрезидентът на Европейската комисия каза, че въпреки че такова споразумение не може да бъде изчерпателно, „то съдържа много въздействащи и положителни елементи“.

Тя също така призова колегите си политици да поемат отговорност да не използват измамно AI инструментите и предупреди, че подхранваната от AI дезинформация може да доведе до „края на демокрацията, не само в държавите-членки на ЕС“.

ИИ намесата в изборите вече е в ход

Споразумението на годишната среща по сигурността на германския град идва, когато повече от 50 държави трябва да проведат национални избори през 2024 г. Бангладеш, Тайван, Пакистан и наскоро Индонезия вече го направиха.

Опитите за намеса в изборите, генерирани от AI, вече са започнали, като например, когато AI robotocalls, които имитираха гласа на , се опитаха да обезсърчат хората да гласуват на първичните избори в Ню Хемпшир избори миналия месец.

Само дни преди изборите в Словакия през ноември, генерирани от AI аудиозаписи се представят за кандидат, който обсъжда планове за повишаване на цените на бирата и фалшифициране на изборите. Проверяващите факти се опитаха да ги идентифицират като неверни, докато се разпространяваха в социалните медии.

Политиците също експериментираха с технологията, от използването на чатботове с изкуствен интелект за комуникация с избирателите до добавяне на генерирани от изкуствен интелект изображения към реклами.

Споразумението призовава платформите да „обърнат внимание на контекста и по-специално на защитата на образователното, документалното, художественото, сатиричното и политическото изразяване“.

В него се казва, че компаниите ще се съсредоточат върху прозрачността за потребителите относно своите политики и ще работят, за да образоват обществеността за това как могат да избегнат фалшификатите на AI.

Повечето компании са казали преди това, че поставят предпазни мерки върху техните собствени генеративни AI инструменти, които могат да манипулират изображения и звук, като същевременно работят за идентифициране и етикетиране на генерирано от AI съдържание, така че потребителите на социални медии да знаят дали това, което виждат, е реално. Но повечето от предложените решения все още не са въведени и компаниите са изправени пред натиск да направят повече.

Този натиск се засилва в САЩ, където Конгресът все още не е приел закони, регулиращи ИИ в политиката, оставяйки компаниите до голяма степен да се управляват сами.

Федералната комисия по комуникациите наскоро потвърди, че генерираните от изкуствен интелект аудиоклипове в роботизирани обаждания са против закона, но това не обхваща дълбоките аудио фалшификации, когато се разпространяват в социалните медии или в рекламни кампании.

Много компании за социални медии вече имат въведени политики за възпиране на измамни публикации за изборни процеси – генерирани от AI или не.

Meta казва, че премахва дезинформация относно "датите, местата, часовете и методите за гласуване, регистрация на гласоподаватели или участие в преброяването", както и други фалшиви публикации, предназначени да попречат на нечие гражданско участие.

>Онлайн платформи ще получат насоки за изборите преди гласуването през юни

Отсъстващите от споразумението

Джеф Алън, съосновател на Integrity Institute и бивш специалист по данни във Facebook, каза, че споразумението изглежда като „положително стъпка", но все пак би искал да види компаниите за социални медии да предприемат други действия за борба с дезинформацията, като например изграждане на системи за препоръчване на съдържание, които не дават приоритет на ангажираността над всичко друго.

Лиза Гилбърт, изпълнителен вицепрезидент на застъпническата група Public Citizen твърди в петък, че споразумението „не е достатъчно“ и компаниите за изкуствен интелект трябва да „задържат технологии“ като хиперреалистични генератори за текст към видео „докато не бъдат въведени съществени и адекватни гаранции, които да ни помогнат предотвратяване на много потенциални проблеми".

В допълнение към компаниите, които помогнаха за сключването на петъчното споразумение, други подписали са разработчиците на чатботове Anthropic и Inflection AI; стартиране на гласово клониране ElevenLabs; дизайнер на чипове Arm Holdings; компаниите за сигурност McAfee и TrendMicro; и Stability AI, известен с това, че прави генератора на изображения Stable Diffusion.

Забележително липсва друг популярен AI генератор на изображения, Midjourney. Стартъпът, базиран в Сан Франциско, не отговори веднага на искане за коментар в петък.

Включването на X - неспоменато в по-ранно съобщение за предстоящото споразумение - беше една от изненадите на споразумението от петък.

Мъск рязко ограничи екипите за модериране на съдържание, след като пое бившия Twitter и се описа като „абсолютист на свободата на словото“.

В изявление в петък изпълнителният директор на X Линда Якарино каза: „ всеки гражданин и компания имат отговорността да гарантират свободни и честни избори".

"X е посветен на това да играе своята роля, да си сътрудничи с колеги за борба със заплахите от ИИ, като същевременно защитава свободата на словото и увеличава максимално прозрачността," каза тя .

Последвайте ни в