Защо генерираното от AI аудио е толкова трудно за откриване

Фалшивото и подвеждащо наличие, основано от изкуствен интелект, бързо се трансформира от теоретична опасност в стряскаща действителност. Технологията за основаване на безапелационен аудиозапис на човек, който приказва, непрестанно се усъвършенства и е необятно налична с просто онлайн търсене.

Самото битие на технологията и компликацията при разкриване на наличие основано от него, към този момент предизвиква безпорядък.

През януари роботизирано позвъняване от подправен президент Джо Байдън беше ориентирано към гласоподавателите на демократите в Ню Хемпшир. Роджър Стоун неотдавна употребява стратегия за разкриване на изкуствен интелект в опит да се дистанцира от запис, който наподобява включва неговия глас. А профсъюзът на шеф на гимназия допусна, че AI може би е отговорен за запис, в който той наподобява прави расистки мнения. Районът към момента проверява.

Въпреки че се появиха десетки принадлежности и артикули, с цел да се опитат да открият аудио, генерирано от изкуствен интелект, тези стратегии по своята същина са лимитирани, споделиха специалисти пред NBC News, и няма да го създадат дава сигурен метод за всеки бързо и надеждно да дефинира дали звукът, който чува, е от същински човек.

Системите за разкриване на Deepfake работят доста по-различно от метода, по който хората слушат. Те проучват аудио проби за артефакти като изчезнали честоти, които постоянно остават, когато аудиото се генерира програмно. Често те се концентрират върху съответни аспекти на речта, като да вземем за пример по какъв начин говорещият наподобява диша или какъв брой се покачва и понижава височината на гласа им.

Реалност Defender, известна компания за разкриване на deepfake, споделя, че употребява AI за разкриване на AI. Точно както генеративният изкуствен интелект работи, като образова логаритми върху големи количества действителни, съществуващи данни, с цел да създава реалистични нови медии, чиновниците на Reality Defender зареждат неговия логаритъм както с достоверно, по този начин и с генерирано от AI наличие. Бен Колман, основен изпълнителен шеф на компанията, сподели, че компанията ясно етикетира какво е същинско и какво е подправено, надявайки се, че системата може да се научи да прави оценка какъв брой евентуално е нещо да бъде генерирано от AI.

„ Ние в никакъв случай не споделяме 100% “, сподели Колман пред NBC News. „ Нашата най-висока възможност е 99%, тъй като в никакъв случай не разполагаме с главната истина. Така че това е изцяло вероятностно “, сподели той.

Огромният набор от човешки гласове и езици затрудняват тази работа, сподели Колман.

„ С гласове, това е население, разпределено по райони, езици, диалекти и възраст. Така че би трябвало да мислим за всяка една променлива, ” сподели той.

Компанията майка на NBC News, Comcast, е вложител в Reality Defender.

С такава нетествана и бързо разрастваща се промишленост има малко индикатори за премерване на надеждността на инструмента за разкриване на deepfake.

Но софтуерът е присъщо стеснен метод за разкриване на deepfake, сподели Патрик Трейнър, професор от Университета на Флорида, който специализира в компютърни науки и телефонни мрежи.

Повечето стратегии за разкриване са подготвени да разпознават съществуващи дълбоки подправени логаритми, което ги прави крачка зад новите нововъведения, сподели той.

„ Машинното образование е в действителност положително в това да ви опише за нещо, което е виждало преди, само че не е толкоз положително в разсъжденията за неща, които не е виждало “, сподели Трейнър.

„ В това пространство има доста звук и аз съм извънредно песимистичен. Проблемите са толкоз сложни “, сподели той.

Нийл Джан, откривател на машинно образование в университета в Рочестър, сподели, че е мъчно да се реши какъв брой добре работят характерни принадлежности за разкриване в космоса поради неналичието на съществуващите бенчмаркове, само че че вариантите там са „ по-добри от нищо “.

„ Има голямо противоречие във финансирането сред фирмите, които се надпреварват да създадат допустими дълбоки фалшификации, по отношение на тези, които се пробват да ги открият, “ той сподели. „ Трудно е да се получи финансиране за разкриване, доста елементарно е да се получи финансиране за широкоезични модели и генеративен AI. “

Това е отразено и в университетските проучвания, които се движат толкоз постепенно, че може да не сте в крайник с това какъв брой бързо се развива AI промишлеността. Много принадлежности за разкриване на deepfake — изключително в университетските области — разчитат на остарели данни, които не дават отговор на настоящата годишна продукция от принадлежности за произвеждане на deepfake, сподели той.

„ Тези типове принадлежности за разкриване могат да реализират доста добра продуктивност на избрани масиви от данни, само че не може да се показа толкоз добре в действителния свят, ” сподели Джан. Той разпорежда на Министерството на търговията да издаде насоки на американските компании за изкуствен интелект за това по какъв начин би трябвало да слагат „ воден знак “ на медиите, които създават, тъй че да е елементарно да се каже, че не са достоверни. Но сходни насоки към момента не са обществени и остава да се види какъв брой принадлежности ще ги следват.

Този правилник, който към момента не е влезнал в действие, към този момент е зад промишлеността. Има обилие от компании, които оферират услуги за превръщане на текст в диалект, които имитират същински гласове гратис или на ниска цена.

„ Ако просто търсите основана на изкуствен интелект подправена тирада, ще получите десетки търсения незабавно “, сподели Вандана Джанеджа, професор по осведомителни системи в Университета на Мериленд, окръг Балтимор. „ Почти незаконно е, че всички тези неща са там без никакви защитни огради. “

Хани Фарид, професор в Калифорнийския университет, Бъркли, който е експерт по цифрова криминалистика, разбор и дезинформация, сподели, че до момента в който софтуерният разбор може да помогне, най-хубавият метод за надеждно идентифициране на deepfakes е композиция от експертен разбор, отчитане на произхода на аудиото и сериозно мислене за подтекста на записа.

Въпреки че доста специалисти не виждат методите за разкриване като надеждни, към момента има знаци, които хората могат да чуят, с цел да схванат дали даден аудиозапис е синтетичен. Настоящите дълбоки имитации рядко включват човек, който си поема мирис сред думите, и постоянно неестествено разпределят всяка дума отмерено, за разлика от метода, по който същинските хора приказват.

„ Трябва да се върнем към нещо по-просто — сподели Фарид. „ Кой разгласява това? благонадежден ли е? Звучи ли ви вярно, че Джо Байдън ви споделя да не гласувате? Тейлър Суифт ви споделя, че раздава кулинария? Здравият разсъдък оказва помощ доста. ”