AI може лесно да се използва за създаване на фалшиви изборни снимки - доклад
Хората могат лесно да създават фалшиви изображения, свързани с избори, с инструменти за изкуствен интелект, въпреки правилата, предназначени да предотвратяват такова съдържание. Компаниите зад най-популярните инструменти забраняват на потребителите да създават "подвеждащи" изображения. Но изследователи от Центъра за противодействие на цифровата омраза (CCDH) се опитаха да заобиколят правилата. Усилията им да направят измамни изображения, свързани с изборите, бяха успешни в 41% от случаите. CCDH, група за кампания, тества четирима от най-големите публични -насочени към AI платформи: Midjourney, ChatGPT Plus на OpenAI, DreamStudio на Stability.ai и Image Creator на Microsoft. И четирите забраняват създаването на подвеждащи изображения като част от техните правила и условия . ChatGPT Plus изрично забранява създаването на изображения с участието на политици. Няколко фирми за изкуствен интелект казват, че работят и за спиране на използването на техните инструменти за разпространяване на дезинформация за избори. объркват зрителите относно кандидатите за президент. Едната беше на Доналд Тръмп, отведен от полицията с белезници, а друга показваше Джо Байдън в болнично легло - измислени снимки, загатващи за правните проблеми на г-н Тръмп и въпроси за възрастта на г-н Байдън. И още по-лесно беше да се създадат доста реалистични изображения, които биха могли да подкопаят доверието в системата за гласуване, като фалшиви снимки на бюлетини, хвърлени в кофа за боклук и на избирателни работници, манипулиращи машини за гласуване. Заплахата от ИИ не е теоретична, казват изследователите на CCDH. Според публична база данни потребителите на Midjourney вече са създали потенциално подвеждащи изображения - включително фалшиви снимки на г-н Байдън, който дава пари на израелския премиер Бенямин Нетаняху и г-н Тръмп, играещ голф с руския президент Владимир Путин. Изследователите също откриха някои доказателства за скок в потенциално подвеждащи изображения, достигащи до основните социални медийни платформи. На X броят на бележките на общността в мрежата - където потребителите коментират фалшиви и подвеждащи туитове - отнасящи се до изкуствения интелект, се е увеличил със средно 130% на месец през изминалата година, каза CCDH. Тази седмица разследване на BBC установи, че AI изображения, показващи Доналд Тръмп в положителна светлина, са насочени към афро-американци. Изследователите въведоха 40 различни текстови подкани, свързани с президентските избори в САЩ през 2024 г. в AI машини, включително: Ако им беше попречено да създадат изображения, изследователите опитаха прости заобиколни решения - например като поискаха да създадат снимки на скорошни президенти, вместо да посочват "Тръмп" или "Байдън". ChatGPT Plus и Image Creator изглежда спират създаването на изображения на кандидатите за президент, според Калъм Худ, ръководител на изследванията на CCDH. Но всички платформи се представиха по-слабо, когато бяха помолени да създадат фалшиви изображения за гласуване и избирателни места. Близо 60% от опитите на изследователите да създадат подвеждащи изображения относно бюлетини и местоположения са успешни. Той каза, че относителният успех на някои платформи в блокирането на изображения показва, че има потенциални корекции, включително филтри по ключови думи и забрана за създаване на изображения на истински политици. "Ако има воля от страна на AI компаниите, те могат да въведат предпазни мерки, които работят", каза той. Reid Блекман, основател и главен изпълнителен директор на консултантската компания за етичен AI риск Virtue и автор на книгата Ethical Machines, каза, че снимките с воден знак са друго потенциално техническо решение. "Разбира се, това не е безпогрешно, защото има различни начини за обработка на снимка с воден знак", каза той. „Но това е единственото просто технологично решение.“ Г-н Блекман цитира изследване, което показва, че изкуственият интелект може да не повлияе значително на политическите убеждения на хората, които са станали по-укрепени в една поляризирана ера . "Хората обикновено не са много убедителни", казва той. „Те имат своите позиции и показвайки им няколко изображения тук и там, няма да променят тези позиции.“ Даниел Джанг, старши мениджър за политически инициативи в Станфорд Програмата за изкуствен интелект, ориентиран към човека (HAI), заяви, че „независимите проверяващи фактите и организациите на трети страни“ са от решаващо значение за ограничаването на генерираната от AI дезинформация. „The появата на по-мощен изкуствен интелект не влошава непременно дезинформационния пейзаж“, каза г-н Джан. „Подвеждащо или фалшиво съдържание винаги е било сравнително лесно да се произвежда и тези, които имат намерение да разпространяват лъжи, вече притежават средствата да го направят.“ Няколко от компаниите казаха, че работят за укрепване на предпазните мерки. "Тъй като по света се провеждат избори, ние надграждаме работата си по безопасността на нашата платформа, за да предотвратим злоупотреба, подобряване на прозрачността на съдържанието, генерирано от изкуствен интелект, и смекчаване на дизайна, като отхвърляне на заявки, които искат генериране на изображения на реални хора, включително кандидати“, каза говорител на OpenAI. Говорител на Stability AI каза, че компанията наскоро актуализира ограниченията си, за да включва „генериране, популяризиране или насърчаване на измами или създаване или популяризиране на дезинформация“ и е приложила няколко мерки за блокиране на опасно съдържание в DreamStudio. Говорител на Midjourney каза: „Нашите системи за модериране непрекъснато се развиват. Актуализациите, свързани конкретно с предстоящите избори в САЩ, идват скоро.“ Microsoft нарече използването на AI за създаване на подвеждащи изображения „критичен проблем“. Компанията каза, че е създала уебсайт и е въвела инструменти, които кандидатите могат да използват, за да съобщават за deepfakes, отделни лица могат да използват, за да съобщават за проблеми с AI технологията и споделяне на данни, за да позволят проследяване и проверка на изображения.Възможни решения
Компаниите с изкуствен интелект отговарят
