Фалшивите изображения, направени, за да покажат Тръмп с чернокожи поддръжници, подчертават опасенията около изкуствения интелект и изборите
ВАШИНГТОН (АП) — На пръв поглед изображенията, циркулиращи онлайн, показващи бившия президент Доналд Тръмп, заобиколен от групи чернокожи, усмихнати и смеещи се изглеждат нищожни от обикновеното, но погледът отблизо е показателен.
Странното осветление и твърде перфектните детайли предоставят улики за факта, че всички те са генерирани с помощта на изкуствен интелект. Снимките, които не са свързани с кампанията на Тръмп, се появиха, докато Тръмп се опитва да спечели чернокожи гласоподаватели, които социологически проучвания показват, че остават лоялни към президента Джо Байдън.
Изфабрикуваните изображения, подчертани в скорошно разследване на BBC, предоставят допълнителни доказателства в подкрепа на предупрежденията, че използването на изображения, генерирани от изкуствен интелект, само ще се увеличи с наближаването на общите избори през ноември. Експертите казаха, че подчертават опасността всяка група - латиноамериканци, жени, по-възрастни избиратели - да бъде насочена към реалистични изображения, предназначени да подвеждат и объркват, както и да демонстрират необходимостта от регулиране около технологията.
В доклад, публикуван тази седмица, изследователи от Центъра за противодействие на дигиталната омраза с нестопанска цел използваха няколко популярни програми с изкуствен интелект, за да покажат колко лесно е да се създават реалистични дълбоки фалшификати, които могат да заблудят избирателите. Изследователите са успели да генерират изображения на среща на Тръмп с руски агенти, Байдън, който пълни избирателна урна и въоръжени членове на милицията на избирателните места, въпреки че много от тези програми с изкуствен интелект казват, че имат правила за забрана на този вид съдържание.
Центърът анализира някои от скорошните дълбоки фейкове на Тръмп и чернокожи гласоподаватели и установи, че поне един първоначално е бил създаден като сатира, но сега се споделя от поддръжници на Тръмп като доказателство за неговата подкрепа сред чернокожите.
Социалните медийни платформи и AI компаниите трябва да направят повече, за да защитят потребителите от вредните ефекти на AI, каза Имран Ахмед, главен изпълнителен директор и основател на центъра.
„Ако една снимка струва повече от хиляда думи, тогава тези опасни чувствителните генератори на изображения, съчетани с мрачните усилия за модериране на съдържанието на основните социални медии, представляват толкова мощен инструмент за лоши актьори да подвеждат избирателите, колкото някога сме виждали“, каза Ахмед. „Това е сигнал за събуждане за компании с изкуствен интелект, социални медийни платформи и законодатели – действайте сега или изложете на риск американската демокрация.“
Изображенията предизвикаха тревога както отдясно, така и отляво, че могат да подведат хората относно подкрепата на бившия президент сред афро-американците. Някои в орбитата на Тръмп изразиха разочарование от разпространението на фалшивите изображения, вярвайки, че измислените сцени подкопават републиканците да достигнат до чернокожите избиратели.
„Ако видите снимка на Тръмп с чернокожи хора и не вижте го публикувано на официална кампания или заместваща страница, това не се е случило“, каза Даянте Джонсън, президент на Черната консервативна федерация. „Безсмислено е да се мисли, че кампанията на Тръмп ще трябва да използва AI, за да покаже своята черна подкрепа.“
Експертите очакват допълнителни усилия за използване на генерирани от AI deepfakes за насочване към конкретни избирателни блокове в ключови щати, като напр. Латиноамериканци, жени, американци от азиатски произход и по-възрастни консерватори или всяка друга демографска група, която кампанията се надява да привлече, подведе или изплаши. С десетки държави, които провеждат избори тази година, предизвикателствата, породени от deepfakes, са глобален проблем.
През януари гласоподавателите в Ню Хемпшир получиха автоматизирано обаждане, което имитира гласа на Байдън, казвайки им лъжливо, че ако гласуват на първичните избори в този щат, няма да имат право да гласуват на общите избори. Политически консултант по-късно призна, че е създал robotocall, което може да е първият известен опит за използване на AI за намеса в избори в САЩ.
Такова съдържание може да има разяждащ ефект, дори когато не се вярва, според февруари проучване на изследователи от Станфордския университет, изследващо потенциалното въздействие на ИИ върху чернокожите общности. Когато хората разберат, че не могат да се доверят на изображения, които виждат онлайн, те може да започнат да отхвърлят законните източници на информация.
„Тъй като съдържанието, генерирано от AI, става все по-разпространено и трудно за разграничаване от генерираното от човека съдържание, хората може да станат по-скептични и недоверчиви към информацията, която получават“, пишат изследователите.
Дори и да не успее да заблуди голям брой гласоподаватели, генерираното от AI съдържание за гласуване, кандидати и избори може да затрудни всеки да разграничи фактите от измислицата, което ги кара да пренебрегват легитимните източници на информация и да подхранват загуба на доверие, която подкопава вярата в демокрацията, като същевременно разширява политическата поляризация.
Въпреки че фалшивите твърдения за кандидати и избори не са нищо ново, AI прави по-бързо, по-евтино и по-лесно от всякога създаването на реалистични изображения, видео и аудио . Когато бъдат пуснати в социални медийни платформи като TikTok, Facebook или X, AI deepfakes може да достигне милиони, преди технологичните компании, държавните служители или легитимните новинарски издания дори да разберат за тяхното съществуване.
„ИИ просто се ускори и притисна бързо напред към дезинформацията“, каза Джо Пол, бизнес ръководител и защитник, който работи за увеличаване на цифровия достъп сред цветнокожите общности. Пол отбеляза, че чернокожите общности често имат „тази история на недоверие“ към основните институции, включително в политиката и медиите, което прави чернокожите общности по-скептични към публичните разкази за тях, както и към проверката на фактите, предназначена да информира общността.
Дигиталната грамотност и уменията за критично мислене са една защита срещу генерираната от AI дезинформация, каза Пол. „Целта е да дадем възможност на хората да оценяват критично информацията, която срещат онлайн. Способността за критично мислене е изгубено изкуство сред всички общности, не само сред чернокожите общности.“
