Банките в Обединеното кралство се подготвят за дълбока фалшива вълна от измами

Шефът на Virgin Money Дейвид Дъфи беше на хиляди километри от централата на своята банка в Нюкасъл, когато осъзна спешната необходимост от засилване на нейната стратегия за предотвратяване на измами.

Докато направи обиколка на централата на Microsoft в Сиатъл с други банкови шефове през май, той научи как „дълбоко фалшиви“ гласове и видео скоро ще могат да подмамят клиентите му да изпращат пари на измамници.

„Видях нивото на еволюция на [генеративната AI] технология и силата й . . . способността за клониране на гласове е доста тревожна“, каза Дъфи. „ИИ, задвижван от квантово изчисление, ще постави финансовите престъпления потенциално на стероиди.“

Банките отдавна трябваше да се справят с измами с представяне под чужда самоличност. Но тъй като дълбоките фалшификати и клонирането на глас стават по-лесни за генериране, схемите, в които измамниците се представят за всичко - от бъдещ романтичен партньор до член на семейството в криза, имат потенциала да се насочат към много повече хора и с по-висок процент на успех.

Банките в Обединеното кралство вече са засегнати от измами, използващи deepfakes, според Сандра Пийстън, изследователски директор в организацията за предотвратяване на измами Cifas.

Имитациите досега до голяма степен са били на знаменитости поради наличието на кадри, необходими за обучение на алгоритми за дълбоко фалшифициране, каза тя, като престъпниците обикновено използват синтезирани видеоклипове, за да преминат онлайн проверките „опознай своя клиент“ под формата на онлайн видеоклипове в опит за отваряне на банкови сметки или кандидатстване за кредитни карти.

Deepfake видеоклиповете също вече се използват като примамка за кликване за привличане на трафик към злонамерени уебсайтове за събиране на данни за плащане с карта, изследване на Stop Scams UK и консултантската компания PwC е открил.

С подобряването на технологията, каза Пийстън, тя „ще изисква все по-малко и по-малко материал за обучение и може да се използва в по-индустриален мащаб“, което означава, че „няма да имате нужда от някой често са били в медиите“, за да ги имитират. Технологията за клониране на глас увеличава вероятността жертвите да бъдат измамени по телефона да изпратят пари на някой, когото смятат за роднина.

Обединеното кралство се превърна в основна гореща точка за измами и измами, отчасти защото английският е толкова често срещан като втори език, което улеснява общуването на измамниците с потенциални жертви по целия свят. Системата за почти незабавни плащания в страната и широкото приемане на дигитално банкиране също са фактори, казват експерти.

Само през първата половина на 2023 г. Великобритания е загубила £580 млн. от измами, според UK Finance. От тях 43,5 милиона британски лири са били откраднати чрез представяне на служители на полицията или на банката, а други 6,9 милиона британски лири са били загубени поради представяне на главни изпълнителни директори, добави търговският орган.

С внедряването на инструменти за превод, базирани на AI, измамниците ще могат да използват deepfakes, за да копират гласовете и акцентите на хората на повече езици, което може да им позволи да се насочват към повече жертви през границите.

Други европейски държави, които досега са се справяли с по-малко измами от Обединеното кралство , може да бъде засегнат от внезапна вълна от измами в резултат на това, каза Крис Луис, ръководител на изследванията в компанията за данни за борба с измамите Synectics.

Тъй като технологията, използвана от измамниците, става все по-сложна, същото става и инструменти за предотвратяване и откриване на измами.

Аджай Бхала, президент на отдела за кибер и разузнаване в Mastercard, каза, че компанията е разработила инструмент за скрининг, базиран на изкуствен интелект, който предлага на девет кредитора в Обединеното кралство, за да им помогне да открият измами, преди парите да напуснат сметките на клиентите.

Lloyds Banking Group, най-големият висок кредитор в Обединеното кралство, каза, че възможностите на AI за разпознаване на модели също могат да подобрят текущата му система за предотвратяване на измами. Банката използва поведенчески анализ, за ​​да изгради „подробен профил на начина, по който клиентът обикновено действа“, включително колко време му отнема да напише и как навигира в екраните си, така че да може да замрази плащанията, когато забележи необичайна дейност, според директора за предотвратяване на измами Лиз Зиглер .

Експертите от индустрията в областта на генеративния AI също се надпреварват да разработят така наречената технология за воден знак, чрез която компаниите, които управляват създаването на deepfakes може да вгради „воден знак“ в генерирано от AI съдържание, което би позволило проверка на софтуера за откриване на синтетично съдържание.

Но Антоан Мойру, партньор в Lightspeed Venture Partners, поддръжник на френската генеративна AI компания Mistral, предупреди че технологията е останала в ранните етапи на изследване и развитие и е уязвима за хакове.

„Случват се много инициативи, но чувате за хора, които ги „разбиват“ и ги бият — и понякога . . . някои хора са в състояние да пресъздадат фиктивни водни знаци, така че е още по-лошо“, каза Мойруд.

Председателят на Базелския комитет за банков надзор, Пабло Ернандес де Кос, в понеделник призова световните лидери преди Световния икономически форум в Давос тази седмица, за да координира отговора на предизвикателствата, породени от бързо развиващата се технология, която според него „може да промени хода на историята, не непременно за добро“.

В Обединеното кралство, банките имат стимул да се борят и предотвратяват непрекъснато развиващите се видове измами. Нови правила от регулатора на платежните системи, които влизат в сила през октомври, ще накарат финансовите институции от двете страни на измамни плащания да бъдат задължени да компенсират жертвите на разрешени измами с насочени плащания, при които жертвите са подмамени да направят банков превод към нелегитимно лице.

Virgin Money заяви през ноември, че ще инвестира £130 милиона в предотвратяване на финансови престъпления през следващите три години, докато се опитва да подобри своята киберзащита и „капацитет за биометрични данни“ до „устойчивост на бъдещето“ срещу нови технологични заплахи за финансови престъпления.

Стив Корнуел, ръководител на отдела за риск от измами в TSB, призова компаниите, предоставящи AI софтуер, да бъдат „наясно с потенциалната му престъпна употреба и да го предпазят“ и предупреди обществеността да бъде предпазлива от неочаквана цифрова комуникация и реклами в социалните медии, които биха могли да бъдат генерирани от AI.

Нарастването на измамите, задвижвани от deepfake, също е вероятно да повиши натиска върху технологичните компании да компенсират жертвите в случаите, когато техните платформи са били използвани за извършване на измама. Повече от три четвърти от измамите започват онлайн във Великобритания, най-вече в социалните медии, според данни, събрани от UK Finance.

Въпреки че Законът за онлайн безопасността, който в момента е в процес на консултация, не се очаква да направи техн. компании, носещи финансова отговорност за обезщетение за измами, той включва изисквания към технологичните компании да откриват и премахват съдържание на своите платформи, което позволява измами.

„Индустрията на банковите и финансовите услуги е единственият сектор, който възстановява разходите на жертвите на измами“ каза директорът на UK Finance за икономически престъпления Бен Доналдсън.

„Имаме нужда от всички съответни сектори да пристъпят напред и да ни помогнат както да подкрепим жертвите чрез възстановяване на разходи, така и да ги защитим, като на първо място предотвратяваме престъпленията.“

Последвайте ни в