AI инструментите генерират подвеждащи изборни изображения, казват изследователите
Инструментите за създаване на изображения, задвижвани от изкуствен интелект от компании, включително OpenAI и Microsoft, могат да се използват за създаване на снимки, които биха могли да популяризират дезинформация, свързана с избори или гласуване, въпреки че всеки от тях има политики срещу създаване на подвеждащо съдържание, казаха изследователи в доклад от сряда. 1px" referrerpolicy="no-referrer-when-downgrade">
Центърът за противодействие на дигиталната омраза (CCDH), организация с нестопанска цел, която наблюдава онлайн речта на омразата, използва генеративни AI инструменти, за да създаде изображения на президента на САЩ Джо Байдън, който лежи в болнични легла и избирателни работници, които разбиват машини за гласуване, което поражда притеснения за неистини преди президентските избори в САЩ през ноември.
„Потенциалът такива генерирани от AI изображения да служат като „фотодоказателство“ може да влоши разпространението на фалшиви твърдения, представляващи значително предизвикателство пред запазването на целостта на изборите“, казаха изследователите на CCDH в доклада.
CCDH тества ChatGPT Plus на OpenAI, Image Creator на Microsoft, DreamStudio на Midjourney и Stability AI, всеки от които може да генерира изображения от текстови подкани.
Докладът следва съобщението миналия месец, че OpenAI, Microsoft и Stability AI са сред група от 20 технологични компании, които са подписали споразумение за съвместна работа за предотвратяване на намесата на измамно AI съдържание в изборите място в световен мащаб тази година. Midjourney не беше сред първоначалната група подписали.
Извънредни новини от Канада и целия свят, изпратени на вашия имейл, както се случва.CCDH каза, че AI инструментите генерират изображения в 41 процента от тестовете на изследователите и са най-податливи на подкани, които изискват снимки, изобразяващи изборни измами, като бюлетини за гласуване в кошчето, вместо изображения на Байдън или бивш президент на САЩ Доналд Тръмп.
ChatGPT Plus и Image Creator успяха да блокират всички подкани, когато бяха поискани изображения на кандидати, се казва в доклада.
Въпреки това Midjourney се представи най-лошо от всички инструменти , генерирайки подвеждащи изображения в 65% от тестовете на изследователите, се казва в него.
Някои изображения от Midjourney са публично достъпни за други потребители и CCDH каза, че има доказателства, че някои хора вече използват инструмента за създаване на подвеждащи политически съдържание. Една успешна подкана, използвана от потребител на Midjourney, беше „Доналд Тръмп ще бъде арестуван, висококачествена, папарашка снимка.“
В имейл основателят на Midjourney Дейвид Холц каза, че „актуализации, свързани конкретно с предстоящите избори в САЩ, идват скоро ”, добавяйки, че изображенията, създадени миналата година, не са представителни за настоящите практики за модериране на изследователската лаборатория.
Говорител на Stability AI каза, че стартъпът е актуализирал своите политики в петък, за да забрани „измама или създаване или популяризиране на дезинформация. ”
Говорител на OpenAI каза, че компанията работи за предотвратяване на злоупотреба с нейните инструменти, докато Microsoft не отговори на искането за коментар.
