Най-големите технологични компании в света обещават да се борят срещу „deepfakes“ на избори, създадени от AI

Най-големите технологични компании в света обещаха да се борят с „измамно“ генерирано от изкуствен интелект съдържание от намеса в глобалните избори тази година, тъй като страховете нарастват въздействието на дезинформацията върху демокрацията.

Amazon, Google, Meta, Microsoft, TikTok и OpenAI бяха сред 20-те технологични компании, които заявиха в петък по време на Мюнхенската конференция по сигурността, че ще работят заедно за борба със създаването и разпространението на съдържание, предназначено да заблуждава избирателите, като като „deepfake“ изображения, видео и аудио.

Според доброволното споразумение, подписано от компаниите, бързото развитие на AI „създава нови възможности, както и предизвикателства за демократичния процес“, и разпространението на измамно съдържание може да „застраши целостта на изборните процеси“.

„С толкова много големи избори, които се провеждат тази година, жизненоважно е да направим каквото можем, за да предотвратим хората да бъдат измамени от генерирано от AI съдържание,“ каза Ник Клег, президент по глобалните въпроси в Meta. „Тази работа е по-голяма от всяка една компания и ще изисква огромни усилия в индустрията, правителството и гражданското общество.“

Брад Смит, вицепрезидент и президент на Microsoft, добави, че компаниите имат „отговорност да помагат уверете се, че тези инструменти няма да станат оръжия при изборите“.

Споразумението идва в контекста на нарастваща загриженост сред законодатели и експерти относно потенциала генеративният изкуствен интелект да застраши високопоставените избори, които трябва да се проведат тази година, включително в САЩ, Обединеното кралство и Индия.

p>

Технологичните компании, които управляват големи социални медийни платформи като Facebook, X и TikTok, са изправени пред проверка от години относно съществуването на вредно съдържание на техните сайтове и как се справят с него.

Но експлозията на интереса и наличието на генеративни AI инструменти подхрани опасенията за това как технологията може да подкопае изборите в частност.

През януари беше изпратено автоматизирано обаждане до гласоподавателите на САЩ в Ню Хемпшир, за което се твърдеше, че е от президента Джо Байдън и ги призовава да не гласуват на първичните избори. Миналата година в Обединеното кралство, Индия, Нигерия, Судан, Етиопия и Словакия бяха открити фалшиви клипове на политици, за които се твърди, че са създадени с помощта на AI и след това разпространени онлайн.

20-те технологични компании, които подписаха споразумението в петък, заявиха, че ще работят „съвместно“ върху инструменти за изкореняване на разпространението на вредно свързано с избори съдържание с ИИ на техните платформи , и да предприеме действия по „бързи и пропорционални“ начини.

Усилията могат да включват добавяне на водни знаци към изображения, които показват ясно техния произход и дали са били променени, например.

Компаниите също обещаха да бъдат прозрачни за това как се справят с подобно измамно съдържание и казаха, че ще оценят своите генеративни AI модели – като тези зад чатбота ChatGPT на OpenAI – за да разберат по-добре рисковете, свързани с изборите, които те могат да представляват.

Споразумението е последното от поредица доброволни ангажименти около AI, които големите технологични компании поеха през последните месеци. Миналата година групи, включително OpenAI, Google DeepMind и Meta, се съгласиха да отворят своите генеративни AI модели за преглед от британския Институт за безопасност на изкуствения интелект.

Този месец, като част от присъединяването към индустриалната инициатива Коалицията за произход и автентичност на съдържанието, Google каза, че „активно проучва“ дали може да пусне инструменти за воден знак, които показват как е създадено изображение.

Meta също каза през февруари, че ще започне да етикетира изображения, генерирани от AI, които потребителите публикуват във Facebook, Instagram и Threads „през следващите месеци“.

Последвайте ни в