Това е измама! Как deepfakes и гласовото клониране се докосват до вашите пари

Скорошно надълбоко подправено видеообаждане с това, което се смяташе за финансов шеф на компания, коства 23 милиона евро на неразкрита компания в Хонконг.

Deepfake лъжливи опити за потвърждаване на идентичност са се нараснали с 3000% през последната година, сочейки към зараждаща опасност, защото се появяват нови способи за финансови измами.

Използването на подправена или открадната идентичност е цифрата един от методите за лъжливо навлизане в банкова сметка и жертвите по целия свят се лишават от милиарди от личните си мъчно извоювани пари.

Сега измамниците заблуждават хората, употребявайки новата технология на генеративния изкуствен интелект ( AI) принадлежности, които могат да имитират гласовете или външния тип на хората, с цел да получат достъп до техните банкови сметки.

Как да разберете на кого да вярвате?

Неотдавнашен образец за надълбоко подправяне (цифрово манипулиране на видеоклипове или изображения) беше, когато сума от 23 милиона евро беше трансферирана на неразкрита компания в Хонг Конг по това, което се смяташе за заповед на основния финансов шеф на компанията.

Хонконгската полиция сподели, че служителят, направил прехвърлянето, има вяра, че финансовият шеф на компанията, както и всички останали във видеообаждането, са същински.

Измамата беше разкрита едвам когато служителят по-късно ревизира в централния офис на компанията.

Все по-голям брой отчети описват истории за хора, получаващи позвънявания от другари и родственици с молба за финансова помощ. Звучат същински. Може да не желаят доста. Но в случай че се съмнявате, споделят специалистите, постоянно затваряйте и се обаждайте назад на вашия контакт.

Друга лъжлива приложимост на генеративен AI, която настръхва косите, се случва в Австралия, където AI е употребен за основаване на цели вести и дълбоки подправени видеоклипове - постоянно с присъединяване на звезда - популяризиращи капиталови благоприятни условия. Националният център за битка с измамите трябваше да раздаде предизвестия, че тези измами са коствали на австралийците повече от 8 милиона $ (4,88 милиона евро) предходната година.

Подобни опити се случиха по-близо до Европа през октомври 2023 година, когато се появиха дълбоки подправени видеоклипове, които имитират водещи на BBC, които наподобява промотират капиталов план на Илон Мъск.

В Съединени американски щати интернет престъпността на ФБР Центърът за недоволства получи съвсем 900 000 тъжби предходната година, което е нарастване от 22% по отношение на миналата година. Потенциалните загуби са над 12,5 милиарда $ (11,5 милиарда евро). Бъдещите вреди могат елементарно да бъдат по-големи, защото специалистите предвиждат годишен растеж от 2 милиарда $ (1,4 милиарда евро) в измамите със идентичност посредством генеративен AI, съгласно Marketwatch.

Тенденции във финансовите измами, употребяващи AI

Съобщава се, че финансовата промишленост е очевидец на доста повишаване на измамите, в които са включени дълбоки имитации и логаритми за машинно образование.

Тези принадлежности си проправят път през подправянето на идентификация, в това число инспекция на документи, биометрична инспекция и валидиране на данни.

Манипулирането на документи се усилва бързо благодарение на усъвършенствани принадлежности за изкуствен интелект и биометричната инспекция също последователно става жертва на тази наклонност, съгласно доставчика на засвидетелствуване на идентичност Onfido в техния отчет за измамите със идентичност за 2024 г. 

Един от методите, по които измамниците стават изобретателни с биометричните измами, е потреблението на deepfakes, в това число замяна на лица приложения. Опитите за потребление на deepfakes в измами се усилиха доста сред 2022 година и 2023 година

„ Все по-често измамниците употребяват същински документ (получен посредством приключване на данни) за инспекция на документ за инспекция и по-късно трансформират лицето си за биометрична инспекция ”, написа в отчета. В момента, макар че подправянето на биометрични данни е възходяща наклонност заради необятната гама от налични онлайн принадлежности за изкуствен интелект, по-сложният аспект на подправянето на биометрични данни към момента не е необятно публикуван. Такива случаи обезпечават малко над 2% от общите опити за измами.

Но генеративният AI и приложенията за надълбоко подправяне нарастват.

Според отчета, който проучва трендовете, дребен брой измамници са виновни за по-голямата част от дълбоките подправени офанзиви и те са склонни да се концентрират върху един бизнес в даден миг. Друга наклонност допуска, че до момента в който през предходните години броят на опитите за измами е намалял през уикендите, през 2023 г. те са били засичани поредно през всичките седем дни от седмицата, което допуска световна, взаимосвързана активност.

Европа е минимум пожеланият район за измамниците. Средните равнища на измами са 3,1% за всички инспекции на идентичност, като най-широко употребяваният вид документи при сходни закононарушения са националните персонални карти. Френската персонална карта е най-популярната за кражба.

Как изкуственият разсъдък може да отбрани против банкови измами

„ Същите софтуерни принадлежности, които вършат измамите по-разпространени в банкирането и заплащанията, разрешават на компаниите да се оправят с предизвикването “, споделят специалисти от консултантската компания McKinsey's.

Чрез съдействие с регулатори, както и специалисти по киберсигурност, се основават авангардни решения. Те включват разкриване и попречване на измами в действително време, ръководени от AI.

Един подобен метод е AI да проучва огромно количество данни, в това число модели на транзакции и държанието на харчене на всеки клиент, и да употребява машинно образование, с цел да забележи опити за машинация в бъдеще. Идентифицирането на модели и маркирането на аномалии позволява бързи реакции на подозрителни действия.

Citigroup употребява такива принадлежности като част от напъните си за битка с прането на пари, а HSBC има за цел да предотврати измами с заплащания благодарение на сходна AI система.

„ ИИ може да бъде употребен за общото богатство. Както държавните организации, по този начин и промишленостите от ден на ден употребяват ИИ и машинното образование за ефикасна битка с измамите “, се споделя в отчета на Onfido.

Те също по този начин означават, че са налични принадлежности за изкуствен интелект за надхитряване на подправени персонални карти, забелязване на повтарящи се данни при опити за машинация и двойна инспекция на знаци за надълбоко подправяне при биометрична инспекция.