Deepfake атака: „Много хора можеха да бъдат измамени“

В началото на тази година в уеб страниците на обществените медии в Индия се появи видео, показващо основния изпълнителен шеф на Бомбайската фондова борса, Сундарараман Рамамурти, давайки препоръки на вложителите кои акции да купуват.

На феновете беше обещана добра възвръщаемост, в случай че се вслушат в съвета му.

Единственият проблем беше, че не говореше Рамамурти. Беше негов бездънен подправен видеоклип, изработен благодарение на изкуствен интелект.

" Беше в общественото пространство, където доста хора можеха да го видят и да бъдат излъгани да купуват или продават акции, като че ли аз ги бях предложил ", изяснява Рамамурти.

" Когато забележим случай като този, ние неотложно подаваме тъжба. Отиваме в Instagram и на други места, където е оповестено, с цел да премахнем видеоклипа и постоянно пишем на пазара, като предизвестяваме хората да не имат вяра на подправени видеоклипове. " в действителност е мъчно да се открие, тъй че не можем в действителност да преценим дали е имало огромно влияние или не.

" Това, което желаеме, е да не е имало никакво влияние. Никой не би трябвало да претърпява загуба, тъй като има вяра в нещо, което е погрешно. "

Ramamurthy и Бомбайската фондова борса не са сами.

" Последните данни демонстрират, че през последните две години сме очевидци на нарастване от съвсем 3000% на броя употребявани дълбоки фалшификации “, споделя Карим Туба, основен изпълнителен шеф на основаната в Съединени американски щати компания за отбрана на пароли LastPass.

Самият Туба беше надълбоко подправен през 2024 година

„ Един от нашите чиновници в Европа получи аудио известие и текстово известие от някого твърди, че съм аз, незабавно желае помощ от мен “, споделя той.

За благополучие на Toubba – и LastPass – служителят беше недоверчив.

„ Съобщението беше в WhatsApp, което за нас не е глобен канал за връзка “, споделя Туба. Освен това имаме корпоративни мобилни устройства и това пристигна през неговия персонален телефон. Така че това го накара да мисли, че това е евентуално малко мътно, малко съмнително. "

Служителят рапортува за случая на екипа за киберсигурност на LastPass и не е нанесена никаква щета.

Британската инженерна компания Arup нямаше подобен шанс. 2024 беше обиден от една от най-сложните офанзиви deepfake, виждани в миналото в корпоративния свят.

Според полицията в Хонконг, чиновник на Arup, работещ там, е получил известие, за което се твърди, че идва от основния финансов шеф на компанията (CFO), който е основан в Лондон, по отношение на „ поверително транзакция ".

Служителят се включи във видео диалог с финансовия шеф и различен личен състав. Въз основа на това позвъняване служителят по-късно трансферира $25 милиона (£18,5 милиона) пари от Arup към пет разнообразни банкови сметки, както беше указано. Едва по-късно стана ясно, че хората в диалога, в това число финансовия шеф, са били дълбоки подправени лица.

„ Никога не бихте желали просто да участвате във видео диалог с някого и да прехвърлите 25 милиона $ “, споделя Стефани Хеър, софтуерен откривател и съводещ на телевизионната стратегия на BBC AI Decoded.

„ Компаниите би трябвало да подхващат спомагателни стъпки, с цел да обезпечат тези типове на връзките. Това е смелият нов свят, в който се намираме в този момент. "

Бързото развиване на AI значи, че тези видеоклипове стават все по-реалистични от самото начало.

" Deepfakes стават доста, доста лесни за правене ", споделя Мат Ловел, съосновател и основен изпълнителен шеф на основаната в Обединеното кралство компания за киберсигурност CloudGuard. „ Генерирането на видео и аудио качество с извънредно точни спецификации – лишава минути. “

Също по този начин става все по-евтино.

" За, да речем, една елементарна, самостоятелна офанзива, гледате на $500 до $1000 с потреблението на значително безвъзмездни принадлежности ", споделя Ловел. " За по-сложна офанзива очаквате сред $5000 и $10 000. "

Докато дълбоките подправени видеоклипове стават все по-сложни, инструментите, употребявани за осуетяването им, също. Компаниите към този момент могат да употребяват програмен продукт за инспекция, който може да реши изражението на лицето на човек, метода, по който той обръща главата си и даже метода, по който кръвта тече през лицето му, с цел да откри дали това в действителност е той или негова подправена версия.

" По бузите ви или тъкмо под клепачите ви ще търсим промени в кръвния поток, когато човек приказва или показва. " споделя. „ Тук в действителност можем да разберем дали е генерирано от AI, или е същинско. “

Но компаниите са в непрекъсната борба да останат една крачка пред измамниците.

„ Това е конкуренция кой може да внедри технология и кой може да осуети тази технология допустимо най-бързо ", споделя Toubba от LastPass. „ За благополучие, наподобява, че в това се вливат много пари, което единствено ще форсира темпото, с което организациите ще създават технологии за разкриване и в последна сметка блокиране на тези неща. "

В CloudGuard, основният изпълнителен шеф Мат Ловел е повече неприятно.

" Векторите на офанзива се форсират по-бързо, в сравнение с можем да ускорим автоматизацията на защитата и отбраната ", споделя той. " Движат ли се хората задоволително бързо, с цел да реагират на скоростта, която се развива? Абсолютно не. "

Хеър споделя, че разпространяването на deepfake офанзиви значи, че хората с умения за битка с измамниците са доста търсени. „ Имаме дефицит на експерти по киберсигурност в международен мащаб, имаме потребност от повече хора, които да се занимават с това. “

И тя споделя, че фирмите се разсънват за опасността, въпреки и постепенно.

" В предишното не се смяташе за приоритет да отбраните интервенциите си по напълно същия метод, както е в този момент ", показва тя.

" Сега, когато имаме тези типове опасности, с водачите в фирмите, с основните изпълнителни шефове, които са надълбоко фалшифицирани, мисля, че ръководителите на фирмите ще прекарват повече време със своите основни чиновници по осведомителна сигурност и екипи, в сравнение с преди. И това е нещо положително. "