AI deepfakes крие рискове за потребителите, гласоподавателите и други, предупреждават експерти по сигурността

Напредъкът в изкуствения разсъдък прави основаването на по този начин наречените deepfake изображения, видеоклипове и аудиозаписи елементарно, което поражда опасения, че неприятните артисти могат да бомбардират хората с хиперреалистични измами и да популяризират дезинформация. 

Deepfakes, които употребяват гласовете и приликите на обществени персони, в това число звезди или политически претенденти, също могат да заблудят обществеността по разнообразни способи, споделиха специалисти по сигурността пред CBS News. Според една мярка по-малко от 10% от хората могат да разпознаят аудио дийпфейк, съгласно Doppel, платформа за обществена инженерна отбрана за разкриване на закани с AI.

„ При тест единствено 8% от хората схванаха, че им се обажда AI сътрудник, до момента в който 92% от хората смятаха, че приказват с човек “, сподели съоснователят на Doppel Кевин Тиан. 

Според специалисти по сигурността потенциалът на изкуствения разсъдък да създава дълбоки фалшификации в мащаб е неотложен проблем на политическата сцена. Реклами, генерирани от AI, включващи дълбоки подправени изображения на политици, към този момент се появиха в интернет и обществените медии преди междинните избори. 

В един подобен случай в Тексас, подправено, манипулирано от AI обществено видео, ориентирано към претендента за Сената Джеймс Таларико, предполагаше, че демонстрира някогашен студент, който упреква демократа в полово закононарушение, съгласно услугата PolitiFact на Института Пойнтър.  

„ Когато не можете да кажете какво е законно, вие поставяте под подозрение всичко “, сподели пред CBS News Майкъл Кайзер, основен изпълнителен шеф на Defending Digital Campaigns, непартийна организация, която дава безвъзмездни услуги за киберсигурност на политически акции.

Към средата на октомври политическите акции са похарчили повече от 137 милиона $ за минимум 220 реклами, генерирани от изкуствен интелект, някои от които съдържат deepfakes на претенденти, съгласно Wesleyan Media Project, който наблюдава реклами от политически претенденти.

„ ИИ си проправя път към междинните изпити през 2026 година тази година. За съпоставяне, идентифицирахме по-малко от $50 000 в разноските за генерирани от ИИ реклами през цикъла на 2024 година “, сподели Ерика Франклин Фаулър, съдиректор на Wesleyan Media Project, в изказване този месец. Тя означи, че в множеството случаи основателите на рекламите не разкриват, че са направени благодарение на AI. 

Дори когато някой подозира, че дадена реклама е генерирана от изкуствен интелект или включва бездънен имитация, образните детайли на рекламата към момента могат да създадат усещане и да оформят мнение, сподели съдиректорът на плана Травис Ридаут пред CBS News.

„ Дори и да знаем, че не е същинска, това остава в съзнанието ни “, добави той.

Подсказване за дълбоки фалшификации

Deepfakes са тип синтетична медия, която възпроизвежда облика и сходството на частно лице или социална персона. Примерите включват глас, който звучи като сътрудник или родственик от другия завършек на телефонната линия, или политическа фигура, която се обръща към гласоподавателите за поддръжка или дарения. 

Раул Лийв, специалист по deepfake във Veriff, основана на AI компания за инспекция на самоличността, сподели, че лекотата и бързината, с които deepfake могат да се вършат и внедряват през днешния ден, крият огромни опасности. 

„ С всеки минал ден генерирането на дълбоки подправени данни става все по-лесно и по-лесно “, сподели той пред CBS News. „ Ако сте желали да фалшифицирате нечие лице преди години, трябваше да положите старания, с цел да създадете подправени данни и да употребявате Photoshop. Но в този момент, с цел да генерирате подправено лице, можете просто да подканите вашия AI инструмент. “

Veriff документира 300% нарастване на обвързваните с deepfake опити за измами против бизнеса тази година спрямо 2025 година Liive очерта няколко образеца за това по какъв начин неприятните артисти употребяват технологията, с цел да се насочат към бизнеса и нищо неподозиращи консуматори. 

„ Предполагаем ваш другар се обажда и желае заем, само че вие познавате този човек и той в никакъв случай преди не е отправял такова искане “, сподели той.

Други типове измами са свързани със незабавни медицински случаи. Обаждащият се може да каже, че има здравна сметка, за която незабавно се нуждае от помощ. 

" Запитайте се какъв е шансът някой, който познавате, в действителност да ви попита нещо сходно? " сподели той. „ Можете също по този начин да пандизите телефона и да се обадите назад на контакта на номера, който имате за тях, или да употребявате различен канал, с цел да потвърдите самоличността им, в случай че поръчката наподобява подозрителна. “

Проучването на Veriff по отношение на deepfakes откри, че потребителите мъчно виждат deepfakes, което ги прави уязвими за операция. В един тест, извършен от компанията, 70% от хората неправилно са разпознали надълбоко подправен видеоклип на женски воин като същински. 

Старите издайнически признаци, че нещо е дълбока подправена, като човек с шест пръста или три ръце, също изчезват от наличието на AI. Veriff откри, че хората търсят ненадеждни образни знаци, като неестествена кожа или странности в косата или зъбите на обекта, които AI от ден на ден отстрани от наличието, което генерира. 

Междувременно подкопаването на публичното доверие в това, което виждат, също може да подкопае доверието в законното наличие. Кайзер уточни фотография на сенатор Мич Макконъл, позиращ със брачната половинка си от болничното легло, пусната на фона на спекулации, че сенаторът е умрял след незабавна здравна помощ по-рано тази година. Въпреки че фотографията беше достоверна, някои интернет консуматори допуснаха, че е била манипулирана.

„ Това е образец за хора, които просто не се доверяват на това, което виждат “, каза Кайзер. „ Хората не знаят дали това, което гледат, е законно или дали настояванията за дарения са действителни. Те слагат под подозрение всичко, което се случва и това вреди и подкопава доверието в цялата система. “ 

Редактирано от Ален Шертър

© 2026 CBS Interactive Inc. Всички права непокътнати.

Откриване на дълбоки имитации в свят, в който даже действителността е подозрителна

(10:48)

Авторско право ©2026 CBS Interactive Inc. Всички права непокътнати.