AI инструментите генерират подвеждащи изборни изображения, казват изследователите

Инструментите за основаване на изображения, задвижвани от изкуствен интелект от компании, в това число OpenAI и Microsoft, могат да се употребяват за основаване на фотоси, които биха могли да разпространяват дезинформация, обвързвана с избори или гласоподаване, макар че всеки от тях има политики против основаване на подвеждащо наличие, споделиха откриватели в отчет от сряда. 1px " referrerpolicy= " no-referrer-when-downgrade " >

Центърът за противопоставяне на цифровата ненавист (CCDH), организация с нестопанска цел, която следи онлайн речта на омразата, употребява генеративни AI принадлежности, с цел да сътвори изображения на президента на Съединени американски щати Джо Байдън, който лежи в болнични кревати и изборни служащи, които разрушават машини за гласоподаване, което поражда терзания за лъжи преди президентските избори в Съединени американски щати през ноември.

„ Потенциалът такива генерирани от AI изображения да служат като „ фотодоказателство “ може да утежни разпространяването на подправени изказвания, представляващи доста предизвикателство пред запазването на целостта на изборите “, споделиха откривателите на CCDH в отчета.

CCDH тества ChatGPT Plus на OpenAI, Image Creator на Microsoft, DreamStudio на Midjourney и Stability AI, всеки от които може да генерира изображения от текстови подкани.

Докладът следва известието предишния месец, че OpenAI, Microsoft и Stability AI са измежду група от 20 софтуерни компании, които са подписали споразумение за взаимна работа за попречване на намесата на лъжливо AI наличие в изборите място в международен мащаб тази година. Midjourney не беше измежду първичната група подписали.

CCDH сподели, че AI инструментите генерират изображения в 41 % от тестванията на откривателите и са най-податливи на подкани, които изискват фотоси, изобразяващи изборни измами, като бюлетини за гласоподаване в кошчето, вместо изображения на Байдън или някогашен президент на Съединени американски щати Доналд Тръмп.

ChatGPT Plus и Image Creator съумяха да блокират всички подкани, когато бяха поискани изображения на претенденти, се споделя в отчета.

Въпреки това Midjourney се показа най-лошо от всички принадлежности, генерирайки подвеждащи изображения в 65% от тестванията на откривателите, се споделя в него.

Някои изображения от Midjourney са обществено налични за други консуматори и CCDH сподели, че има доказателства, че някои хора към този момент употребяват инструмента за основаване на подвеждащи политически наличие. Една сполучлива подкана, употребена от консуматор на Midjourney, беше „ Доналд Тръмп ще бъде задържан, висококачествена, папарашка фотография. “

В имейл създателят на Midjourney Дейвид Холц сподели, че „ актуализации, свързани съответно с идните избори в Съединени американски щати, идват скоро ”, добавяйки, че изображенията, основани предходната година, не са представителни за актуалните практики за модериране на изследователската лаборатория.

Говорител на Stability AI сподели, че стартъпът е актуализирал своите политики в петък, с цел да забрани „ машинация или основаване или разпространение на дезинформация. ”

Говорител на OpenAI сподели, че компанията работи за попречване на корист с нейните принадлежности, до момента в който Microsoft не отговори на настояването за коментар.