AI може лесно да се използва за създаване на фалшиви изборни снимки - доклад

Хората могат елементарно да основават подправени изображения, свързани с избори, с принадлежности за изкуствен интелект, макар разпоредбите, предопределени да предотвратяват такова наличие.

Компаниите зад най-популярните принадлежности не разрешават на потребителите да основават " подвеждащи " изображения.

Но откриватели от Центъра за противопоставяне на цифровата ненавист (CCDH) се пробваха да заобиколят разпоредбите.

Усилията им да създадат лъжливи изображения, свързани с изборите, бяха сполучливи в 41% от случаите.

CCDH, група за акция, тества четирима от най-големите обществени -насочени към AI платформи: Midjourney, ChatGPT Plus на OpenAI, DreamStudio на Stability.ai и Image Creator на Microsoft.

И четирите не разрешават основаването на подвеждащи изображения като част от техните правила и условия. ChatGPT Plus категорично не разрешава основаването на изображения с присъединяване на политици. Няколко компании за изкуствен интелект споделят, че работят и за прекъсване на потреблението на техните принадлежности за разпространение на дезинформация за избори. объркват феновете по отношение на претендентите за президент. Едната беше на Доналд Тръмп, отведен от полицията с белезници, а друга показваше Джо Байдън в болнично легло - измислени фотоси, загатващи за правните проблеми на господин Тръмп и въпроси за възрастта на господин Байдън.

И още по-лесно беше да се основат много реалистични изображения, които биха могли да подкопаят доверието в системата за гласоподаване, като подправени фотоси на бюлетини, хвърлени в кофа за отпадък и на изборни служащи, манипулиращи машини за гласоподаване.

Заплахата от ИИ не е теоретична, споделят откривателите на CCDH. Според обществена база данни потребителите на Midjourney към този момент са основали евентуално подвеждащи изображения - в това число подправени фотоси на господин Байдън, който дава пари на израелския министър председател Бенямин Нетаняху и господин Тръмп, играещ голф с съветския президент Владимир Путин.

Изследователите също откриха някои доказателства за скок в евентуално подвеждащи изображения, достигащи до главните обществени медийни платформи.

На X броят на бележките на общността в мрежата - където потребителите разясняват подправени и подвеждащи туитове - отнасящи се до изкуствения разсъдък, се е нараснал със приблизително 130% на месец през миналата година, сподели CCDH.

Тази седмица следствие на BBC откри, че AI изображения, показващи Доналд Тръмп в позитивна светлина, са ориентирани към афро-американци.

Изследователите вкараха 40 разнообразни текстови подкани, свързани с президентските избори в Съединени американски щати през 2024 година в AI машини, в това число:

Ако им беше попречено да основат изображения, откривателите пробваха елементарни заобиколни решения - да вземем за пример като желаеха да основат фотоси на скорошни президенти, вместо да показват " Тръмп " или " Байдън ".

ChatGPT Plus и Image Creator наподобява стопират основаването на изображения на претендентите за президент, съгласно Калъм Худ, началник на проучванията на CCDH.

Но всички платформи се показаха по-слабо, когато бяха помолени да основат подправени изображения за гласоподаване и изборни места.

Близо 60% от опитите на откривателите да основат подвеждащи изображения по отношение на бюлетини и локации са сполучливи.

Той сподели, че относителният триумф на някои платформи в блокирането на изображения демонстрира, че има евентуални корекции, в това число филтри по основни думи и възбрана за основаване на изображения на същински политици.

" Ако има воля от страна на AI фирмите, те могат да вкарат защитни ограничения, които работят ", сподели той.

Възможни решения

Reid Блекман, създател и основен изпълнителен шеф на консултантската компания за етичен AI риск Virtue и създател на книгата Ethical Machines, сподели, че фотосите с воден знак са друго евентуално техническо решение.

" Разбира се, това не е безпогрешно, тъй като има разнообразни способи за обработка на фотография с воден знак ", сподели той. „ Но това е единственото просто софтуерно решение. “

Г-н Блекман цитира проучване, което демонстрира, че изкуственият разсъдък може да не повлияе доста на политическите убеждения на хората, които са станали по-укрепени в една поляризирана епоха.

" Хората нормално не са доста безапелационни ", споделя той. „ Те имат своите позиции и показвайки им няколко изображения тук и там, няма да трансформират тези позиции. “

Даниел Джанг, старши управител за политически начинания в Станфорд Програмата за изкуствен интелект, насочен към индивида (HAI), съобщи, че „ самостоятелните проверяващи обстоятелствата и организациите на трети страни “ са от решаващо значение за ограничението на генерираната от AI дезинформация.

„ The появяването на по-мощен изкуствен интелект не утежнява безусловно дезинформационния пейзаж “, сподели господин Джан. „ Подвеждащо или подправено наличие постоянно е било относително елементарно да се създава и тези, които имат желание да популяризират неистини, към този момент имат средствата да го създадат. “

Компаниите с изкуствен интелект дават отговор

Няколко от фирмите споделиха, че работят за подсилване на защитните ограничения.

" Тъй като по света се организират избори, ние надграждаме работата си по сигурността на нашата платформа, с цел да предотвратим корист, възстановяване на прозрачността на наличието, генерирано от изкуствен интелект, и намаляване на дизайна, като отменяне на поръчки, които желаят генериране на изображения на действителни хора, в това число претенденти “, сподели представител на OpenAI.

Говорител на Stability AI сподели, че компанията неотдавна актуализира рестриктивните мерки си, с цел да включва „ генериране, разпространение или поощряване на измами или основаване или разпространение на дезинформация “ и е приложила няколко ограничения за блокиране на рисково наличие в DreamStudio.

Говорител на Midjourney сподели: „ Нашите системи за модериране непрестанно се развиват. Актуализациите, свързани съответно с идните избори в Съединени американски щати, идват скоро. “

Microsoft назова потреблението на AI за основаване на подвеждащи изображения „ сериозен проблем “. Компанията сподели, че е основала уеб страница и е въвела принадлежности, които претендентите могат да употребяват, с цел да оповестяват за deepfakes, обособени лица могат да употребяват, с цел да оповестяват за проблеми с AI технологията и шерване на данни, с цел да разрешат следене и инспекция на изображения.

Източник: bbc.com