Как магьосник, който никога не е гласувал, се оказа в центъра на политически скандал с ИИ
Уличен магьосник от Ню Орлиънс, който няма постоянен адрес, никога не е гласувал и твърди, че държи световен рекорд по огъване на вилица, може да изглежда като малко вероятен кандидат да бъде замесен във високотехнологичен политически скандал.
Но в петък Пол Карпентър – чиито магически подвизи включват бягство от усмирителна риза за по-малко от 11 секунди – влезе в светлината на националните политически прожектори, когато се разкри като създател на генерирано от AI автоматизирано обаждане, имитиращо гласа на президента Джо Байдън, което беше изпратено до избирателите в Ню Хемпшир .
Карпентър каза в интервю за CNN, че е бил нает да създаде фалшивото аудио от политически консултант, работещ за кампанията на представителя на Минесота Дийн Филипс, дългогодишен съперник на Байдън от Демократическата партия. Той предостави текстови съобщения, дневници на Venmo и други записи в подкрепа на своя акаунт.
Автоматичното обаждане, което призова демократите да пропуснат гласуването на първичните избори в Ню Хемпшир, стимулира разследванията на правоприлагащите органи и притесненията за бъдещето на въздействието на ИИ върху американската политика. Карпентър каза, че не знае как ще бъде използвано аудиото и е „с разбито сърце“, че работата му може да е убедила хората да не гласуват.
„Аз съм магьосник и хипнотизатор“, каза той. „Не съм в политическата сфера – просто бях хвърлен в това нещо.“
Консултантът на Phillips, Стив Крамър, отказа коментар в петък и кампанията на Филипс се дистанцира от Крамър, заявявайки, че не е знаела за предполагаемото му участие в robotocall.
Твърденията на Карпентър бяха съобщени за първи път в петък от NBC News.
Произходът на robotocall – първото голямо усилие за използване на AI за имитиране на президент на САЩ в опит за потискане на гласовете – е много обсъждана мистерия сред политическите кръгове, откакто беше изпратен до повече от 20 000 души в края на януари. Глас, който звучи като призив на слушателите на Байдън да не гласуват на първичните избори и вместо това да „запазят гласа си“ за изборите през ноември.
Главният прокурор на Ню Хемпшир обяви по-рано този месец, че е започнал наказателно разследване на обаждането и го е свързал с две базирани в Тексас телекомуникационни компании. Представители на правоприлагащите органи на САЩ също следят отблизо инцидента, за да определят дали е извършено федерално престъпление, каза високопоставен американски служител, запознат с въпроса, пред CNN.
Крамър беше нает от кампанията на Филипс, за да помогне в гласуването в Ню Йорк и Пенсилвания и кампанията плати на компанията му общо над 250 000 долара през декември и януари, показват записите на Федералната избирателна комисия.
Дългогодишен политически консултант, Крамър е работил за кандидатурата на Кание Уест за президент през 2020 г. и има история в създаването на автоматични разговори. От кампанията на Филипс заявиха, че не са знаели за докладваното му участие в обаждането на AI Biden.
„Ако е вярно, че г-н Крамър е имал някакво участие в създаването на дълбоки фалшиви автоматични обаждания, той го е направил по собствена воля, която няма нищо общо с нашата кампания“, каза говорителката на Phillips Кейти Долан пред CNN в изявление в петък.
„Основната идея на нашата кампания е важността на конкуренцията, избора и демокрацията“, каза Долан. „Отвратени сме да научим, че г-н Крамър стои зад това обаждане и ако обвиненията са верни, ние категорично осъждаме действията му.“ Долан каза, че Крамър вече не работи за кампанията.
Крамър препрати молба за коментар към Ханк Шейнкопф, политически консултант в Ню Йорк. Шейнкопф, който каза, че действа като говорител на Крамър, каза пред CNN, че Крамър „ще има изявление след първичните избори в Южна Каролина“ в събота, но отказа да коментира повече преди това.
Миналия месец Филипс, който представлява район на Минеаполис в Камарата на представителите на САЩ, отхвърли идеята, че автоматичното обаждане може да е дошло от негов поддръжник. Ако случаят беше такъв, той каза на Джейк Тапър от CNN: „Щях да бъда първият, който го осъди“.
„Който и да е направил това, греши и точно затова се нуждаем от лидер, който не е на 80 и няколко години, който може да разбере какво предстои“, каза, определяйки се като по-способен да се справи с регулирането на ИИ от Байдън или бившия президент Доналд Тръмп, фаворитът за номинацията на републиканците.
Карпентър, който изпълняваше трикове с карти и огъваше вилица по време на интервю за CNN в петък, каза, че е бил запознат с Крамър на улицата в Ню Орлиънс от свой познат. 47-годишният Карпентър, който се самоопределя като „дигитален номад“, който прекарва времето си в пътуване из САЩ, правейки магии и уеб дизайн, както и други дейности на свободна практика, каза, че отдавна се интересува от най-новите технически постижения.
„Ако изучавате историята на магията, ще знаете, че магьосниците винаги са използвали най-новите форми на технология“, каза той.
Карпентър каза, че е направил няколко проекта за гласова имитация на ИИ за Крамър, включително аудио, което звучи като сенатор Линдзи Греъм от Южна Каролина, преди Крамър да му изпрати сценарий за разговора, имитиращ Байдън. Той каза, че е генерирал аудио на президента чрез AI гласовата услуга ElevenLabs, която каза, че е деактивирала акаунта, свързан с фалшивото обаждане на Байдън.
Процесът отнема само „пет минути, най-много десет“, каза Карпентър. „Мога да накарам всеки да каже каквото поиска.“
Карпентър, който каза, че никога не е гласувал през живота си, видя работата като просто „още един концерт“ и твърди, че не осъзнава политическите последици от това, което създава. Той каза, че никога не е чувал за Филипс и предположи, че Крамър работи за самия Байдън.
Карпентър каза, че Крамър е уредил баща му, Брус Крамър, да плати на Карпентър $150 на Venmo за генериране на обаждането с AI и предостави екранни снимки на транзакции на Venmo от акаунт с името Брус Крамър. Брус Крамър каза пред CNN, че „на този етап не мога да потвърдя или отрека нищо“.
След като избухна новината за фалшивото автоматично повикване, Крамър изпрати на Карпентър връзка към статия за него и думата „Шшшшшшшш“, според екранна снимка на текстово съобщение, което Карпентър показа на CNN. Той каза, че Крамър му е казал да изтрие всички имейли между тях двамата и той го е направил.
Адвокатът на Карпентър, Брандън Кизи – когото Карпентър каза, че е намерил в Reddit и го представлява безплатно – подчерта, че Карпентър не е знаел за никакви планове да използва robotocall, когато го е направил.
„Пол не е имал предварителни познания за какво ще се използва съдържанието, генерирано от изкуствен интелект, и Пол не е имал никакви познания, че то ще бъде използвано за потенциално повлияване или използване във връзка с избори или избирателна дейност“, каза Кизи в изявление .
Като фигури в центъра на американските политически скандали, Карпентър със сигурност е „ексцентричен“ – дума, която той
