Това е измама! Как deepfakes и гласовото клониране се докосват до вашите пари
Скорошно дълбоко фалшиво видеообаждане с това, което се смяташе за финансов директор на компания, струва 23 милиона евро на неразкрита фирма в Хонконг.
Deepfake измамни опити за потвърждаване на самоличност са се увеличили с 3000% през последната година, сочейки към възникваща заплаха, тъй като се появяват нови начини за финансови измами.
Използването на фалшива или открадната самоличност е числото един от начините за измамно проникване в банкова сметка и жертвите по целия свят се лишават от милиарди от собствените си трудно спечелени пари.
Сега измамниците заблуждават хората, използвайки новата технология на генеративния изкуствен интелект ( AI) инструменти, които могат да имитират гласовете или външния вид на хората, за да получат достъп до техните банкови сметки.
Как да разберете на кого да вярвате?
Неотдавнашен пример за дълбоко фалшифициране (цифрово манипулиране на видеоклипове или изображения) беше, когато сума от 23 милиона евро беше прехвърлена на неразкрита компания в Хонг Конг по това, което се смяташе за заповед на главния финансов директор на фирмата.
Хонконгската полиция каза, че служителят, извършил прехвърлянето, вярва, че финансовият директор на компанията, както и всички останали във видеообаждането, са истински.
Измамата беше разкрита едва когато служителят по-късно провери в централния офис на фирмата.
Все по-голям брой доклади разказват истории за хора, получаващи обаждания от приятели и роднини с молба за финансова помощ. Звучат истински. Може да не искат много. Но ако се съмнявате, казват експертите, винаги затваряйте и се обаждайте обратно на вашия контакт.
Друга измамна употреба на генеративен AI, която настръхва косите, се случва в Австралия, където AI е използван за създаване на цели новини и дълбоки фалшиви видеоклипове - често с участието на знаменитост - популяризиращи инвестиционни възможности. Националният център за борба с измамите трябваше да раздаде предупреждения, че тези измами са стрували на австралийците повече от 8 милиона долара (4,88 милиона евро) миналата година.
Подобни опити се случиха по-близо до Европа през октомври 2023 г., когато се появиха дълбоки фалшиви видеоклипове, които имитират водещи на BBC, които изглежда промотират инвестиционен проект на Илон Мъск.
В САЩ интернет престъпността на ФБР Центърът за оплаквания получи почти 900 000 жалби миналата година, което е увеличение от 22% спрямо предходната година. Потенциалните загуби са над 12,5 милиарда долара (11,5 милиарда евро). Бъдещите щети могат лесно да бъдат по-големи, тъй като експертите прогнозират годишен ръст от 2 милиарда долара (1,4 милиарда евро) в измамите със самоличност чрез генеративен AI, според Marketwatch.
Тенденции във финансовите измами, използващи AI
Съобщава се, че финансовата индустрия е свидетел на значително нарастване на измамите, в които са включени дълбоки фалшификати и алгоритми за машинно обучение.
Тези инструменти си проправят път през фалшифицирането на идентификация, включително проверка на документи, биометрична проверка и валидиране на данни.
Манипулирането на документи се увеличава бързо с помощта на подобрени инструменти за изкуствен интелект и биометричната проверка също постепенно става жертва на тази тенденция, според доставчика на удостоверяване на самоличност Onfido в техния доклад за измамите със самоличност за 2024 г.
Един от начините, по които измамниците стават креативни с биометричните измами, е използването на deepfakes, включително размяна на лица приложения. Опитите за използване на deepfakes в измами се увеличиха значително между 2022 г. и 2023 г.
„Все по-често измамниците използват истински документ (получен чрез изтичане на данни) за проверка на документ за проверка и след това променят лицето си за биометрична проверка ”, пише в доклада. В момента, въпреки че фалшифицирането на биометрични данни е нарастваща тенденция поради широката гама от налични онлайн инструменти за изкуствен интелект, по-сложният аспект на фалшифицирането на биометрични данни все още не е широко разпространен. Такива случаи осигуряват малко над 2% от общите опити за измами.
Но генеративният AI и приложенията за дълбоко фалшифициране нарастват.
Според доклада, който анализира тенденциите, малък брой измамници са отговорни за по-голямата част от дълбоките фалшиви атаки и те са склонни да се фокусират върху един бизнес в даден момент. Друга тенденция предполага, че докато през предходните години броят на опитите за измами е намалял през уикендите, през 2023 г. те са били засичани последователно през всичките седем дни от седмицата, което предполага глобална, взаимосвързана дейност.
Европа е най-малко предпочитаният регион за измамниците. Средните нива на измами са 3,1% за всички проверки на самоличност, като най-широко използваният тип документи при подобни престъпления са националните лични карти. Френската лична карта е най-популярната за кражба.
Как изкуственият интелект може да защити срещу банкови измами
„Същите технологични инструменти, които правят измамите по-разпространени в банкирането и плащанията, позволяват на фирмите да се справят с предизвикателството“, казват експерти от консултантската фирма McKinsey's .
Чрез сътрудничество с регулатори, както и експерти по киберсигурност, се създават авангардни решения. Те включват откриване и предотвратяване на измами в реално време, управлявани от AI.
Един такъв начин е AI да анализира голямо количество данни, включително модели на транзакции и поведението на харчене на всеки клиент, и да използва машинно обучение, за да забележи опити за измама в бъдеще. Идентифицирането на модели и маркирането на аномалии позволява бързи реакции на подозрителни дейности.
Citigroup използва такива инструменти като част от усилията си за борба с прането на пари, а HSBC има за цел да предотврати измами с плащания с помощта на подобна AI система.
„ИИ може да бъде използван за общото благо. Както правителствените агенции, така и индустриите все повече използват ИИ и машинното обучение за ефективна борба с измамите“, се казва в доклада на Onfido.
Те също така отбелязват, че са налични инструменти за изкуствен интелект за надхитряване на фалшиви лични карти, забелязване на повтарящи се данни при опити за измама и двойна проверка на знаци за дълбоко фалшифициране при биометрична проверка.
