Убеждаването на дълбоки фалшификации на политици с изкуствен интелект става все по-лесно, предупреждава докладът

Необходими са просто текстово известие и извадка от глас на огромен политик, с цел да създадете безапелационно надълбоко подправено аудио с изкуствен интелект.

Това може да популяризира нездравословна дезинформация по време на избори заради „ незадоволителни “ или „ несъществуващи “ ограничения за сигурност, съгласно ново изследване, оповестено в петък.

Изследователи от Центъра за противопоставяне на цифровата ненавист тестваха шест от най-популярните онлайн принадлежности за клониране на глас с изкуствен интелект, с цел да се дефинира какъв брой елементарно е да се сътвори подвеждащо аудио на политици като президента на Съединени американски щати Джо Байдън, някогашния президент и сегашен републикански претендент Доналд Тръмп, английския министър-председател Риши Сунак и други.

Пет от шестте тествани инструмента не съумяха да предотвратят генерирането на тези гласови клипове, множеството от които бяха счетени за безапелационни. Изследователите също съумяха да заобиколят функционалностите за сигурност на някои платформи, като просто използваха друг, по-малко ограничаващ инструмент за гласово клониране с изкуствен интелект.

Генерираните клипове включват подправено аудио на Байдън, Тръмп, Сунак и други политически фигури подправено призовавайки хората да не гласоподават заради бомбени закани в изборните секции, потвърждавайки, че гласовете им се броят два пъти, признавайки неистина или обсъждайки медицински проблеми.

„ Ние показахме, че тези платформи могат да бъдат злоупотребявани прекомерно елементарно ”, сподели Имран Ахмед, основен изпълнителен шеф на Центъра за противопоставяне на цифровата ненавист, в изявление за Global News.

СЛУШАЙТЕ ПО-ДОЛУ: Генериран от AI клонинг на гласа на Тръмп, основан от Speechify, наподобява изобразява Тръмп, който признава, че е лъгал с цел да бъда определен. (Аудиото е предоставено от Центъра за противопоставяне на цифровата омраза)

Докладът идва преди поредните избори тази година в Обединеното кралство — което ще гласоподава по-късно повече от месец — Съединените щати и няколко други демокрации по света.

Канада би трябвало да има федерални избори не по-късно от октомври 2025 година

Канадската работа за разузнаване по сигурността, Министерството на вътрешната сигурност на Съединени американски щати и други международни органи дефинираха генерираните от AI deepfakes като опасност за демокрацията.

Миналата година Канадската работа за сигурност на връзките предизвести в отчет, че генеративният AI ще „ замърси “ идните предизборни акции, в това число в Канада. случаи на наличие, генерирано от изкуствен интелект по целия свят, откриха 679-процентов скок на годишна база от март 2023 година насам в броя на случаите, включващи човешки гласове.

Изследователите тестваха принадлежности за клониране на глас посредством изкуствен интелект от ElevenLabs, Speechify, PlayHT, Descript, Invideo AI и Veed посредством качване на двуминутни аудио проби на говорещите политици, редактирани от изтеглени публично налични видеоклипове.

Освен Байдън, Тръмп и Сунак, изследването употребява и гласовете на вицепрезидента на Съединени американски щати Камала Харис, водача на английската Лейбъристка партия Кийр Стармър, френския президент Еманюел Макрон, ръководителя на Европейската комисия Урсула фон дер Лайен и европейския комисар по вътрешния пазар Тиери Бретон.

След това откривателите подадоха на инструмента за гласово клониране същите пет подкани с текст от фрази за всеки глас, за общо 40 теста за всеки инструмент.

Всичките шест платформи имат платени абонатни проекти, само че включват и безвъзмездна алтернатива, която разрешава на потребителите да генерират къс, еднократен клип гратис.

СЛУШАЙТЕ ПО-ДОЛУ: Генериран от AI клонинг на гласа на Харис, основан от Speechify, наподобява изобразява Харис, обсъждащ здравна проблем. (Аудиото е предоставено от Центъра за противопоставяне на цифровата омраза)

От шестте принадлежности, отчетът откри, че единствено ElevenLabs има това, което откривателите сметнаха за задоволителни ограничения за сигурност – които компанията назовава „ неразрешени гласове “ – които неотложно блокираха основаването на подправени аудио клипове на Байдън, Тръмп, Харис, Сунак и Стармър. Но същата платформа не съумя да разпознае гласовете на европейските политици като такива, които също би трябвало да бъдат неразрешени, и сътвори 14 безапелационни аудио клипа, които отчетът квалифицира като „ пропуск в сигурността “.

Александра Педрашевска, началник на ElevenLabs за сигурността на AI, сподели Global News в изказване, че компанията „ непрекъснато усъвършенства опциите на нашите защитни ограничения, в това число функционалността за неразрешени гласове. “

Компанията споделя, че сега прави оценка спомагателни гласове, които да добави към неговия лист с „ неразрешени гласове “ и „ работи за разширение на тази отбрана към други езици и изборни цикли. “

„ Надяваме се, че други аудио платформи с изкуствен интелект ще последват това управление и ще вкарат сходни ограничения неотложно, “, сподели Педрашевска.

ЧУЙТЕ ПО-ДОЛУ: Генериран от AI клонинг на гласа на Макрон, основан от ElevenLabs, наподобява изобразява Макрон, който признава, че е откраднал средства за акцията. (Аудиото е предоставено от Центъра за противопоставяне на цифровата омраза)

Тествани три други платформи — изложение, Invideo и Veed — съдържат функционалност, която изисква от потребителите фактически да качат аудио на човек, който споделя съответното изказване, което желаят да клонират, преди да генерират стремежи клип. Но откривателите откриха, че могат да заобиколят тази отбрана посредством техника за „ джейлбрейк “, като генерират изказването с друг инструмент за клониране на AI, който няма същата функционалност. Полученият клип беше задоволително безапелационен, с цел да заблуди тези три платформи.

Изследователите също откриха, че Invideo отива по-далеч от елементарното генериране на клип на изказването, подадено към инструмента за клониране, и автоматизирано генерира цялостни речи, цялостни с дезинформация.

„ Гласът даже включваше присъщите говорни модели на Байдън “, се споделя в отчета.

ЧУЙТЕ ПО-ДОЛУ: Генериран от AI клонинг на гласа на Байдън, основан от Descript, наподобява изобразява предизвестието на Байдън за бомба закани в изборни секции в Съединени американски щати, което постанова отсрочване на изборите. (Аудиото е предоставено от Центъра за противопоставяне на цифровата омраза)

СЛУШАЙТЕ ПО-ДОЛУ: Генериран от AI клонинг на гласа на Байдън, основан от Invideo AI, който получи същата текстова подкана за бомбени закани, само че генерира съвсем минутна тирада по тематиката, която включваше нормалното препъване на думите на Байдън. (Аудиото е предоставено от Центъра за противопоставяне на цифровата омраза)

Global News се свърза с всичките шест компании за коментар по отношение на констатациите и рекомендациите на отчета, само че единствено ElevenLabs и Invideo дадоха отговор до крайния период.

Говорител на Invideo AI сподели, че изисква единодушие от хора, чиито гласове са клонирани, само че не отговори до крайния период на констатациите в отчета, че защитната мярка може да бъде избегната.

Докладът отбелязва, че единствено ElevenLabs и Veed включват съответни забрани в своите потребителски политики против основаването на наличие, което може да повлияе на изборите. Всички с изключение на PlayHT категорично не разрешават основаването на „ подвеждащо “ наличие и единствено PlayHT и Invideo нямат език, който не разрешава на потребителите клониране без единодушие или показване на гласове.

Центърът за противопоставяне на цифровата ненавист упорства AI и обществени медийни платформи за бързо приемане на защитни огради за попречване на разпространяването на дезинформация със наличие, основано с техните принадлежности. Те включват по този начин наречените ограничения за „ строшаване на стъкло “ за разкриване и унищожаване на погрешно или подвеждащо наличие. Докладът също приканва за индустриални стандарти за сигурност на ИИ и обновени изборни закони за справяне с генерираната от ИИ дезинформация.

„ Нуждаем се от (тези мерки) бързо, тъй като това е изключително състояние “, сподели Ахмед.

Няколко страни към този момент са видели нашумели образци за дезинформация, подхранвана от наличие, генерирано от изкуствен интелект.

През януари гласоподавателите в Ню Хемпшир получиха автоматизирано позвъняване, което изглеждаше като запис на Байдън, призоваващ ги да не вършат гласувайте на първичните избори на Демократическата партия в този щат.

Щатските прокурори, проверяващи случая, потвърдиха, че аудиото е AI deepfake, а съветник на Демократическата партия, обвързван с конкурентна акция, е изправен пред наказателни обвинявания.

Deepfake аудиоклипове, оповестени онлайн предходната година, лъжливо се появиха, с цел да снимат Стармър, водещият претендент за английски министър-председател на изборите през юли, по какъв начин злоупотребява със чиновници на Лейбъристката партия и подлага на критика град Ливърпул.

По време на предизборната акция предходната есен в Словакия — където новоизбраният министър председател Робърт Фицо оцеля при опит за ликвидиране по-рано този месец — аудиоклип стана вирусен, който сякаш снима водача на демократичната партия Михал Шимечка да разисква по какъв начин да фалшифицира вота с публицист. По-късно беше открито, че аудиото е основано с AI.