Нови видео инструменти за изкуствен интелект засилват притесненията от дълбоки фалшификации преди изборите

Видеоклипът, който OpenAI пусна, с цел да разкрие новия си инструмент за текст във видео, Sora, би трябвало да се види, с цел да се повярва. Фотореалистични подиуми на връхлитащи вълнести мамути в облаци сняг, двойка, която се разхожда през падащи черешови цветове и въздушни фрагменти на златната тресчица в Калифорния.

Съобщава се, че демонстрацията е предиздвикала филмовия продуцент Тайлър Пери да спре инвестиция в студио от 800 милиона $. Инструменти като Sora дават обещание да трансфорат визията на потребителя в реалистични движещи се изображения с елементарна текстова подкана, логиката е, правейки студията остарели.

Други се тормозят, че изкуствен интелект (AI) като този може да бъде употребен от хора с по-тъмно въображение. Злонамерените участници биха могли да употребяват тези услуги, с цел да основат извънредно реалистични дълбоки имитации, объркващи или подвеждащи гласоподавателите по време на избори или просто причинявайки безпорядък посредством разпространяване на разделящи клюки.

Регулаторите, правоприлагащите органи и обществените медийни платформи към този момент се борят да се оправят с повишаването на генерираната от AI дезинформация, в това число подправени аудиозаписи на политически водачи, за които се твърди, че са помогнали за изкривяването на избори в Словакия и са обезсърчили хората да гласоподават в Ню Хемпшир първоначални избори.

Политиците и гражданското общество се тревожат, че защото тези принадлежности стават все по-сложни, за елементарните хора ще бъде по-трудно от всеки път да разграничат кое е същинско и кое е подправено.

Но специалистите по политическа дезинформация и ИИ споделят, че възходящата приложимост на артикули на ИИ е единствено нов аспект на остарял проблем. Тези принадлежности просто прибавят към към този момент добре заредения боеприпас от технологии и техники, употребявани за манипулиране и заблуждение.

Справянето с предизвикването на дълбоките имитации в действителност значи справяне с неразрешените въпроси за това по какъв начин да се контролират платформите на обществените медии, в които те ще се популяризират, и да се накарат огромните софтуерни компании да отговорят, когато продуктите им са оставени за корист.

„ Тези генератори на изображения с изкуствен интелект заплашват да влошат казуса с дезинформацията за изборите, само че би трябвало да сме доста наясно, че това към този момент е проблем “, сподели Калъм Худ, началник на проучванията в Центъра за противопоставяне на цифровата ненавист (CCDH), a акция група. „ Вече се нуждаем от по-строги ограничения от платформите на обществените медии по този действителен проблем. “

Няколко компании, които оферират генератори на изображения с изкуствен интелект, в това число Midjourney, OpenAI и Microsoft, имат политики, които би трябвало да попречат на потребителите да генерират подвеждащи фотоси. CCDH обаче твърди, че тези правила не се ползват.

В изследване, оповестено на 6 март, центърът сподели, че към момента е относително елементарно да се генерират изображения, които биха могли да бъдат рискови в мощно пристрастния подтекст на изборите в Съединените щати, в това число подправени фотореалистични изображения на президента Джо Байдън в болница или поздрави на мигранти на границата с Мексико и изображения в жанр CCTV на манипулиране на избори.

Тези изображения отразяват постоянно срещани неистини в политиката на Съединени американски щати. Бившият президент Доналд Тръмп рутинно пропагандира концепцията, че резултатите от изборите през 2020 година са били манипулирани, неистина, която спомогна за пораждането на бурни митинги в постройката на Капитолия през януари 2021 година

„ Това демонстрира, че [компаниите] не са обмислили задоволително това “, сподели Худ. „ Голямата накърнимост тук е в изображенията, които могат да бъдат употребявани в поддръжка на роман за откраднати избори или подправени изказвания за изборни измами. “

Изследователите откриха обилни разлики в метода, по който обособените основатели на изображения реагираха на подканите – някои не позволяваха на потребителите да основават изображения, които са доста явно партийни. „ Тези разлики демонстрират, че е допустимо да се вкарат ефикасни защитни ограничения “, сподели Худ, добавяйки, че това отразява избор от страна на фирмите.

„ Това е симптоматично за по-широк дисбаланс сред претекста за облага и сигурността на фирмите с ИИ “, сподели той. „ Те имат всички тласъци да се движат допустимо най-бързо с допустимо минимум защитни огради, с цел да могат да прокарат артикули, да прокарат нови функционалности и да сграбчен малко повече рисково финансиране или вложения. Те нямат тласък да забавят темпото и първо да бъдат в сигурност. “

OpenAI, Microsoft и MidJourney не дадоха отговор на претенции за коментар.

Малко реализирано

Този тласък евентуално ще пристигна единствено под формата на регулация, която принуждава софтуерните компании да работят и ги санкционира, в случай че не го създадат. Но специалистите по дезинформация в обществените медии споделят, че изпитват възприятие на дежавю. Разговорите, които се водят към регулирането на ИИ, звучат злокобно като тези, които се водеха преди години към разпространяването на дезинформация в обществените медии. Големите софтуерни компании дадоха обещание да вкарат ограничения за справяне с разпространяването на рискови неистини, само че казусът продължава.

„ Това е като Деня на мармота “, сподели Уилям Данс, старши теоретичен помощник в университета Ланкастър, който е съветвал държавните отдели и службите за сигурност на Обединеното кралство по отношение на дезинформацията. „ И това ви споделя какъв брой малко в действителност сме постигнали през последните 10-15 години. “

С евентуално мощно напрегнатите избори, които се организират в Европейския съюз, Обединеното кралство, Индия и Съединени американски щати тази година, огромните софтуерни компании още веднъж дадоха обещание, самостоятелно и групово, да понижат разпространяването на този тип дезинформация и дезинформация в своите платформи.

В края на февруари притежателят на Фейсбук и Instagram Мета разгласи серия от ограничения, ориентирани към понижаване на дезинформацията и ограничение на обсега на целеви интервенции за въздействие по време на изборите за Европейски парламент. Те включват разрешаване на сътрудници за инспекция на обстоятелства – самостоятелни организации, Meta разрешава да етикетират наличие от свое име – да етикетират генерирано от AI или манипулирано наличие.

Meta беше измежду почти 20 компании, които подписаха „ Tech Accord “, което дава обещание да създаде принадлежности за разкриване, етикетиране и евентуално развенчаване на дезинформация, генерирана от AI.

„ Изглежда, че има някакъв празен образец, който е като: „ Ще създадем всичко допустимо, с цел да се предпазим от празно “, сподели Данс. „ Дезинформация, тирада на омразата, AI, каквото и да е. “

Сливането на нерегулиран изкуствен интелект и нерегулирани обществени медии тревожи мнозина в гражданското общество, изключително откакто няколко от най-големите обществени медийни платформи редуцираха своите екипи за „ доверие и сигурност “, виновни за надзора на реакцията им на дезинформация и дезинформация, тирада на омразата и друго нездравословно наличие. X – някогашен Twitter – изхвърли съвсем една трета от своя личен състав за доверие и сигурност, откакто Илон Мъск пое платформата през 2022 година

„ Намираме се в двойно притеснителна обстановка, в която разпространителите на изборна дезинформация разполагат с нови принадлежности и благоприятни условия, до момента в който фирмите за обществени медии в доста случаи наподобява съзнателно се лимитират във връзка с опциите, които имат за деяние по отношение на изборната дезинформация “, сподели Худ от CCDH. „ Така че това е в действителност значима и тревожна наклонност. “

Преди изборните цикли да стартират съществено, ще бъде мъчно да се планува степента, в която дълбоките имитации ще се популяризират в обществените медии. Но някои от вредите към този момент са нанесени, споделят откривателите. Тъй като хората стават по-наясно със способността да основават комплицирани подправени фрагменти или изображения, това основава по-широко възприятие на съмнение и безпокойствие. Реалните изображения или видеоклипове могат да бъдат отхвърлени като подправени – феномен, прочут като „ дивидента на лъжеца “.

„ Влизам онлайн, виждам нещо и си споделям „ Това действително ли е? Този изкуствен интелект ли е генериран? Не мога да кажа повече “, сподели Кайченг Янг, откривател в Североизточния университет, който учи изкуствения разсъдък и дезинформацията. „ За междинните консуматори просто ще предположа, че ще бъде по-лошо. Няма значение какъв брой същинско наличие има онлайн. Докато хората имат вяра, че има доста, значи имаме проблем. “