Фалшивото автоматично обаждане на Байдън, което казва на демократите да не гласуват, вероятно е генерирано от AI deepfake

Неотдавнашно автоматизирано позвъняване от подправен президент Джо Байдън, който споделя на жителите на Ню Хемпшир да не гласоподават, съвсем несъмнено е основано с изкуствен интелект, съгласно към специалисти по дезинформация и хора, които учат технологията.

Призивът, който офисът на основния прокурор на Ню Хемпшир разказа като явен „ противозаконен опит “ да се подтиснат гласоподавателите да пишат от името на Байдън в първичните избори за президент на Демократическата партия във вторник, е с незнаен генезис. Експертите споделят, че наподобява, че това е deepfake — подправено аудио или видео, основано с AI и предопределено да имитира действителни хора, нормално без тяхното познание или единодушие.

„ Всички признаци сочат, че това е deepfake ”, сподели Бен Колман, основен изпълнителен шеф на Reality Defender, компания, която основава програмен продукт за тестване на медийни файлове, с цел да види дали наподобяват изкуствено генерирани.

„ Никога не споделяме, че нещо е 100% несъмнено, тъй като ние не разполагаме с главната истина, само че е доста евентуално тя да бъде манипулирана “, сподели Колман.

Гласът в робообаждането, получен за първи път от NBC News, звучи като този на Байдън, макар че кадансът е изрязан. Почти невероятно е да се дефинира коя AI стратегия би основала аудиото; стратегии, които могат да основат умерено безапелационна имитация на нечий глас, са необятно налични като телефонни приложения и онлайн услуги, нормално гратис или единствено против дребна такса.

Такива стратегии постоянно се нуждаят единствено от малко количество образцов тон, с цел да възпроизведе гласовете на хората, което ги прави банално лесни да имитират политик.

Линдзи Горман, който учи нововъзникващи технологии и дезинформация в Алианса за обезпечаване на демокрацията на Германския фонд Маршал, сподели там постоянно са разкази в deepfakes, макар че технологията непрестанно се усъвършенства.

„ Кадансът, изключително към края, изглеждаше изкуствен, роботизиран. Това е един от сигналите за евентуално фалшифицирано аудиосъдържание, ” сподели тя.

Ясното идентифициране на това, което е или не е deepfake, се трансформира в игра на котка и мишка, като разработчиците се усъвършенстват технологията, сподели Горман.

„ В случай на образни дълбоки имитации, един автограф е да можете да забележите очите на хората “, сподели тя. „ Това като цяло е добър съвет, че в случай че придвижванията на очите им са неестествени, това може да е бездънен фалш. Но в този момент софтуерът deepfakes стана по-добър и се оправи с някои от странните непостоянни придвижвания на очите: втренчване, прекалено много намигване. “

Sen. Ричард Блументал, D-Conn., който показа законодателна рамка за ИИ в Сената, сподели, че се надява случаят да предизвести американците за заплахите от дезинформация, които ИИ може да съставлява.

„ Той може да бъде овладян в безусловно минути от неофит. Така че за жалост и трагично, това е нашето бъдеще, в случай че не действаме уверено “, сподели Блументал пред NBC News.

„ Надявам се, че дълбокият фалшив или имитацията на Байдън в действителност ще бъде потрес за системата и може би предизвести всички, че в действителност всеки е изложен на риск, ” сподели той.

Въпреки че федералният закон криминализира опитите за попречване на гласоподаване или вписване на хората, има малко регулация по отношение на потреблението на AI лъжливо. Въпреки че някои деятели оказват напън върху Федералната изборна комисия да контролира надълбоко подправените реклами, тя към момента не е решила дали ще стартира някакъв развой на основаване на правила по отношение на технологията, сподели представител.

Мекела Пандитаратне, старши консултант в Програмата за народна власт в Центъра за правораздаване Бренан към Юридическия факултет на Нюйоркския университет, сподели, че макар че очевидното потребление на технология deepfake, с цел да се попречи на хората да гласоподават на първичните президентски избори в Съединени американски щати, може да е ново, потреблението на автоматизирани позвънявания за угнетяване на гласовете не е 't.

„ Исторически робообажданията са били прилагани от лъжливи участници, с цел да популяризират погрешна информация за това по какъв начин, по кое време и къде да гласоподават в опит да подмамят хората да не гласоподават “, сподели Пандитаратне. „ ИИ за генериране на глас евентуално прави този способ на опит за угнетяване на гласовете по-привлекателен за измамниците. “