Аудио дийпфейковете се появяват като предпочитано оръжие при дезинформацията на изборите

Аудио дийпфейковете се обрисуват като нов мощен инструмент в осведомителната война по време на година на огромни избори по света, защото инструментите за гласово клониране, захранвани с изкуствен интелект, се популяризират онлайн.

В понеделник офисът на основния прокурор на Ню Хемпшир съобщи, че проверява допустимо угнетяване на гласоподаватели, откакто получи недоволства, че „ изкуствено генериран “ глас в сходство на президента на Съединени американски щати Джо Байдън автоматизирано се обажда на гласоподаватели, като ги предизвиква да не да гласоподава на първичните избори за президент на щата.

Изследователите също по този начин предизвестиха, че потреблението на реалистични, само че подправени гласови клипове, които имитират политици и водачи, евентуално ще се популяризира след случаите през 2023 година на хипотетично синтетично аудио, основано за въздействие върху политиката и изборите в Обединеното кралство, Индия, Нигерия, Судан, Етиопия и Словакия.

Аудио фалшификатите стават все по-популярна форма на дезинформация, съгласно специалистите, заради появяването на евтини и ефикасни AI принадлежности от започващи компании като ElevenLabs, Resemble AI, Respeecher и Replica Studios. Междувременно изследователският отдел на Microsoft разгласи предходната година създаването на нов фирмен AI модел, VALL-E, който може да клонира глас от единствено три секунди записи.

„ Когато става дума за образна операция, всеки е привикнал с Photoshop или най-малко знае, че съществува “, Хенри Айдер, специалист по AI и deepfakes и консултант на Adobe, Meta и EY. „ Има доста по-малко осъзнаване за това по какъв начин аудио материалът може да бъде манипулиран, тъй че съгласно мен това в действителност ни кара да бъдем уязвими. “

През септември NewsGuard, който прави оценка качеството и надеждността на новинарските уеб сайтове, разкри мрежа от сметки в TikTok, които се показват за законни новинарски издания, включващи генерирани от AI гласове зад кадър, разпространяващи теории на конспирацията и политическа дезинформация. Това включваше симулиран глас на някогашния президент на Съединени американски щати Барак Обама, защитаващ се против неоснователни изказвания, свързващи го със гибелта на неговия персонален готвач.

Фалшивите гласове зад кадър наподобява са били генерирани от инструмент, възложен от ElevenLabs, подкрепена от Andreessen Horowitz, до момента в който клиповете натрупаха стотици милиони гледания, сподели NewsGuard.

„ Над 99 % от потребителите на нашата платформа основават забавно, новаторско и потребно наличие, само че ние осъзнаваме, че има случаи на корист и непрестанно създаваме и пускаме защитни ограничения, с цел да ги ограничим, “, сподели ElevenLabs по време на отчета.

ElevenLabs, учредена преди две години от някогашните чиновници на Гугъл и Palantir Пьотр Дабковски и Мати Станишевски, предлага безвъзмездни рудиментарни принадлежности за генериране на аудио с изкуствен интелект с едно тракване на мишката. Абонаментите варират от $1 на месец до $330 на месец и повече за тези, които търсят по-сложни оферти.

Извършителите на дезинформация бяха насърчени от инструментите за изкуствен интелект, създадени от ElevenLabs, които трансформираха качеството на синтетичното аудио от несвързано и роботизирано към по-естествено с вярната интонация, интонация и страсти, съгласно Айдер.

„ Фундаментално [ElevenLabs] промени играта както във връзка с реализма, който може да бъде реализиран, изключително с малко количество данни “, сподели той.

Пазарът на принадлежности за синтезиран диалект експлодира през последната година. Някои, като Voice AI, оферират безвъзмездни приложения и популяризират своята технология за потребление като дублаж за смешки. Други, като Replica Studios и Respeecher, начисляват номинални такси за основатели, основатели на филми или разработчици на игри.

Често не е ясно кои компании се употребяват за основаване на политически стимулирани deepfakes, защото множеството принадлежности за разкриване не могат да разпознават оригинала източник. Но възходящото разпространяване на такива захранвани с AI артикули води до безпокойствие по отношение на евентуални злоупотреби в нерегулирано пространство.

Миналата година американските разследващи организации предизвестиха в отчет, че „ има голямо нарастване на персонализирания AI измами поради стартирането на комплицирани и добре подготвени модели за гласово клониране с изкуствен интелект “.

Отвъд финансово стимулираните измами, политическите специалисти в този момент бият паника за вирусни дълбоки подправени аудио клипове, както и за потреблението на дълбоки подправени известия за роботизирани диалози или акции. „ Можете доста на ниска цена да изградите мощна, необятна акция за дезинформация посредством ориентиране към хора, ориентирани към телефони “, сподели Ей Джей Неш, вицепрезидент и бележит помощник на разузнаването в групата за киберсигурност ZeroFox.

Някои от тези компании самодейно са търсили други способи за противопоставяне на дезинформацията. Microsoft издаде етична декларация, призовавайки потребителите да рапортуват за всевъзможни злоупотреби с неговия AI аудио инструмент, заявявайки, че говорещият би трябвало да утвърди потреблението на гласа си с инструмента. ElevenLabs построи свои лични принадлежности за разкриване, с цел да разпознава аудиозаписи, направени от неговите системи. Други, като Resemble, изследват щамповането на генерирано от AI наличие с нечуваеми водни знаци.

По време на изборите през 2023 година в Нигерия клип, манипулиран с изкуствен интелект, се популяризира в обществените медии, „ като се допуска, че замесва опозиционен претендент за президент в проекти за манипулиране на гласоподаване “, съгласно правозащитната група Freedom House.

В Словакия подправено аудио на опозиционния претендент Михал Шимечка, който наподобява възнамерява да фалшифицира изборите, стана вирусно единствено дни преди президентския избор в страната през септември.

Посявайки в допълнение комплициране, групи и обособени лица в Индия и Етиопия жигосаха аудиозаписите като подправени единствено за други самостоятелни откриватели и проверяващи обстоятелствата да настояват, че са достоверни.

Експертите предизвестиха обвързваният проблем е, че аудиото, основано от AI, постоянно е по-трудно за разкриване от видеото. „ Просто имате доста по-малко контекстуални улики, които можете да опитате да отработите “, споделя Кейти Харбат, чиновник по световните въпроси в Duco Experts и някогашен шеф на публичната политика на Meta.

Често има издайническа образна информация знаци, че видеоклипът е неавтентичен, като проблеми в качеството, странни сенки, замъгляване или неестествени придвижвания.

„ Предимствата на аудиото [за неприятните актьори] са, че можете да бъдете по-малко прецизни “, сподели Наш. „ За минусите можете да ги прикриете с фонов звук, приглушена музика. “ Дийпфейк на водача на опозицията в Обединеното кралство сър Кийр Стармър, за който се твърди, че ругае чиновник, да вземем за пример, прозвуча по този начин, като че ли е записан в многолюден ресторант.

Появява се пазар за софтуерно подпомагано разкриване, с цел да се опълчи на казуса. Групата за киберсигурност McAfee този месец разгласи Project Mockingbird, инструмент, който търси аномалии в звукови модели, честоти и амплитуда, преди да даде на потребителите възможност дали аудиото е същинско или подправено. Главният софтуерен шеф на McAfee Стив Гробман сподели, че неговият инструмент за разкриване има към 90 % успеваемост.

Николас Мюлер, откривател в региона на машинното образование във Fraunhofer AISEC, означи, че умишленото прибавяне на музика или утежняване на качеството на звука също пречи на точността на инструментите за разкриване.

Онлайн платформи се борят да овладеят казуса. Meta се сблъска с рецензии, тъй като категорично не разрешава манипулирано видео, предопределено да подвежда, само че същите правила наподобява не се ползват за аудио. Мета сподели, че аудио фалшификатите дават отговор на изискванията за инспекция на обстоятелствата и ще бъдат етикетирани и понижавани в излъчванията на потребителите, когато бъдат открити. TikTok също влага в благоприятни условия за етикетиране и разкриване.

„ Дийпфейкът в Ню Хемпшир припомня за многото способи, по които дийпфейковете могат да всеят комплициране и да увековечат измамите “, сподели Робърт Вайсман, президент на групата за отбрана на потребителите с нестопанска цел Public Citizen. „ Моментът на политическия deepfake е тук. Политиците би трябвало да побързат да вкарат отбрана или сме изправени пред избирателен безпорядък.