AI предвещава следващото поколение финансови измами

Беше предходната пролет, когато Падрик Фицджералд получи телефонно позвъняване на работа. Пускаше музика от телефона си, тъй че когато подвигна, гласът на щерка му, която крещеше, че е била отвлечена, изригна през високоговорителите.

„ Всеки има такива моменти в живота си като „ О, в този миг съвсем се удавих като дете “, споделя той. „ Това беше един от най-емоционално изпълнените с белези дни в живота ми. “

Отказвайки оферта за огнестрелно оръжие от сътрудник, Фицджералд, шеф на магазин, основан в западните Съединени американски щати, се надпреварва да изтегли пари от банка, до момента в който оставаше на телефона.

„ [Дъщеря му] крещеше на назад във времето, казвайки, че ще я отрежат, до момента в който чаках на опашка “, споделя той. „ Щях да дам всичко, което имам финансово. “

Само инцидентно известие от щерка му разкри, че гласът по телефона не принадлежи на нея. Това беше удивително жестока и комплицирана машинация, генерирана с изкуствен интелект.

Историята на Фицджералд е отблъскващ образец за това по какъв начин изкуственият разсъдък се е трансформирал в ново мощно оръжие за измамниците, принуждавайки банките и финансовите технологии да влагат в технологията, с цел да поддържат темпото във високотехнологична конкуренция във въоръжаването.

„ В този миг нямах отбрана над детето си – година по-късно бих се радвал да намеря този човек и просто да го накарам да осъзнае какъв брой зло е това, което е направил, и го направиха с натискане на клавиши “, споделя Фицджералд. „ Наистина ли сме толкоз напреднали като общество, в случай че можем да създадем това? “

Продължаващото развиване и асимилиране на технологията значи, че измамниците не съставляват опасност единствено за неосъзнатите или уязвимите. Дори внимателните консуматори са изложени на риск от големи финансови загуби от задвижвани от AI измами. FT Money изследва най-новите разработки.

Повишаване на сложността

Идентифицирането на мащаба на потребление на AI от измамниците е сложна задача, споделя Алекс Уест, експерт по банкови и платежни измами в съветник PwC. Той беше един от създателите на отчет за въздействието на AI върху измамите и измамите предишния декември в съдействие с междуиндустриалната коалиция Stop Scams UK. Това разпознава типа „ гласово клониране “, ориентиран към Фицджералд, като един от най-големите способи, по които се чака нарушителите да употребяват AI.

„ Измамниците към този момент са доста сполучливи и може да се окаже, че просто не го вършат би трябвало да употребяват този вид технологии или може да се окаже, че те употребяват AI и ние просто не можем да отличим по кое време е бил употребен “, споделя той. „ [Но] това явно ще докара до увеличение на по-сложните опити за измами. “

Стив Корнуел, началник на отдела за риск от измами в кредитора TSB, споделя, че възходящата трудност на технологията е била съществена грижа за банки.

„ Ако мислите за метода, по който Generative AI идва, какъв брой време [има] преди този момент AI решение да може да води диалог в действително време с вас [използвайки] синтетичен глас? “ споделя той.

Данните от комерсиалния орган на банковата промишленост UK Finance демонстрират добра наклонност, като загубите от измами са спаднали с 8 % на годишна база през 2022 година

Но един почитан политик, който го направи не желае да бъде назван споделя, че нарасналото приемане на AI — ChatGPT на OpenAI доближи към 100 милиона месечни консуматори за два месеца — може да обърне тази наклонност.

„ Измамниците са доста добре финансирани и предприемчиви “, споделя индивидът. „ Това е нещото, за което съм угрижен. “

Данните от Cifas, услуга за попречване на измами с нестопанска цел в Обединеното кралство, също дават мотив за безпокойствие. Докато данните от 2022 година демонстрират, че измамите със идентичност са се нараснали с близо една четвърт, отчетите за AI принадлежности, употребявани за опити и заблуди на системите на банките, са се нараснали с 84 %.

„ Виждаме увеличено потребление на дълбоки подправени изображения, видео и аудио, употребявани по време на процесите на кандидатстване, дружно със синтетични идентичности, разпознати вследствие на инспекции за „ живост “, които в този момент се правят на стадия на кандидатстване “, предизвестява Стивън Далтън, шеф на разузнаването в Cifas.

Говорейки в Давос в сряда, Мери Калахан Ердоес, началник на отдела за ръководство на активи и благосъстояние на JPMorgan, сподели, че потреблението на AI от киберпрестъпниците е огромно безпокойствие. Банката харчи 15 милиарда $ за технологии годишно през последните години и наема 62 000 технолози, като доста от тях са се фокусирали само върху битката с повишаването на киберпрестъпността.

„ Измамниците стават по-умни, по-разумни, по-бързи, по-коварни, по-злобни ”, добави тя.

PwC и Stop Scams също идентифицираха изкуствено генерираните видеоклипове, по-известни като deepfakes, като главен риск. Технологията, която се появи едвам през 2019 година, бързо напредна, споделя Хенри Айдер, специалист по генерирани от AI медии, който е съветвал компании, в това число Meta, Adobe и EY.

„ Какво се случи през последните 18 месеца е еквивалент на две десетилетия прогрес спрямо предходните четири години “, споделя той. „ Бариерата за влизане е доста по-ниска, в сравнение с беше. “

Качеството на тези видеоклипове се е подобрило удивително, споделя Андрю Бъд, основен изпълнителен шеф и създател на доставчика на онлайн инспекция на самоличността iProov. Той показва скорошно изследване, което откри, че повече от три четвърти от участниците не са съумели да разпознават deepfakes.

„ Доброто качество deepfakes коства към $150 в тъмната мрежа “, продължава той. „ Имате цяла верига за доставки, разработваща се за измами, поддържани от изкуствен интелект, с отдели за научноизследователска и развойна активност, които построяват комплицирани принадлежности и ги монетизират в тъмната мрежа. “

Натали Кели, основен шеф по риска за Visa Europe, предизвестява, че има съзвездие от престъпно фокусирани системи, като WormGPT, FraudGPT и DarkBART. Тя споделя: „ В наши дни може да е мъчно да отличим достоверното от изкуственото. “

Използвайки тези принадлежности, налични посредством тъмната мрежа, и комуникирайки посредством специфични хакерски конгреси и приложения за известия, нарушителите могат да оферират услуги за писане на злотворен програмен продукт или усъвършенствани фишинг имейли.

Как се популяризира бичът

Финансовите институции от дълго време подлагат на критика платформите за обществени медии като вектори за машинация. Миналото лято бездънен фалш на специалиста по икономисване на пари Мартин Луис и притежателя на X Илън Мъск се популяризира в обществените медии, рекламирайки артикул, наименуван „ Quantum AI “.

Самият Луис употребява платформата X, наричана преди този момент Twitter през юли, с цел да предизвести за измамата. Някои от видеоклиповете, ориентирани към английската публика, включваха явни излъчвания на BBC, които бяха дълбоки фалшификации на премиера Риши Сунак, възхваляващ преимуществата на Quantum AI.

Докато редица видеоклипове са отстранени или са неактивни, други сметки просто копират и слагат същия материал.

ИИ не е идеален. В един видеоклип, който към този момент е отстранен, хипотетичният Сунак се препъва в произношението на думи като „ предоставено “.

И макар високотехнологичното име, интервенцията е изненадващо ръчна. Връзките от deepfakes карат хората да предадат своите телефонни номера. След това операторите на прът центъра поемат, убеждавайки хората да предадат пари.

Въпреки това, Уест акцентира, че за нарушителите измамите са игра на размер и AI може да наклони салдото в задоволително случаи, с цел да го направи правдоподобно.

Още за изкуствения разсъдък

Центърът на FT за изцяло отразяване на изкуствения разсъдък и машинното образование. Следвайте за нови вероятности за това по какъв начин AI технологията оформя бъдещето на бизнеса и финансите

„ Да създадем наличието по-правдоподобно – и да убедим единствено дребен % повече хора – може да има огромна облага за измамника, “ споделя той.

Един подобен случай беше някогашен медицински помощник в Съединени американски щати, който стана жертва на капиталов лъжец на X, който използваше AI, с цел да се показва за Илон Мъск.

„ Това стартира преди през март, а ние разбрахме едвам през август, откакто тя към този момент беше изтеглила доста огромни суми от пенсионната си сметка, с цел да се опита да заплати [инвестиционната] сметка “, споделя един член на фамилията.

Докато процесът стартира да употребява директни известия, нарушителят също употребява филтър, с цел да вземе външния тип на Мъск, видеообаждайки се на жертвата, с цел да я убеди да съобщи съвсем $400 000, които тя би трябвало да влага в X.

Междувременно в YouTube на Alphabet, вълна от подправени раздавания на биткойни, включващи Майкъл Сейлър, генериран от AI, накара някогашния основен изпълнителен шеф на MicroStrategy да пусне предизвестие за X. „ Бъдете деликатни там и помнете, че няма такова нещо като безвъзмезден обяд. “ Deepfakes, оповестени от голям брой сметки, които от този момент бяха неразрешени, бяха етикетирани като „ живи “ видеоклипове, с цел да станат по-правдоподобни.

Айдер споделя, че платформите са подхванали стъпки, с цел да дадат отговор на възходящия поток от AI - генерирано наличие. През септември TikTok разгласи, че потребителите ще би трябвало да отбелязват наличие, генерирано от AI, до момента в който DeepMind на Гугъл разгласи воден знак за AI изображения през август.

Но Айдер също беше внимателен във връзка с историята на фирмите за обществени медии, които постоянно прилагаха явно ясни политики на части. Липсата на запаси води до неефективно правоприлагане, споделя той.

Позицията на държавното управление на Обединеното кралство по отношение на ИИ и измамите е смесена. В тирада през юли основният изпълнителен шеф на Financial Conduct Authority Nikhil Rathi загатна евентуалното влияние на AI върху „ кибер измамите, хакерските атаки и измамите със идентичност “ в тирада по отношение на регулирането на новите технологии. На чуване на комисията по финансите през декември Рати също предизвести, че нарушителите „ употребяват безкрайно AI “, с цел да манипулират пазарите.

FCA споделя, че „ защото AI се възприема в допълнение, вложенията в попречване на измами и оперативни и кибер устойчивостта ще би трябвало да се форсира “.

Но държавното управление не загатна категорично технологията в своята тактика за битка с измамите през май предходната година или в доброволна „ харта за онлайн измами “ за платформите на Big Tech, разкрита през ноември.

Началото Office споделя, че „ работи с нашите сътрудници в държавното управление, правоприлагащите органи и частния бранш, с цел да подтиква в допълнение потреблението на AI за справяне с престъпността и отбрана на обществеността “.

Meta споделя, че дълбоките подправени реклами не са позволени на нейните платформи и отстранява такова наличие, когато бъде привлечено до вниманието й, добавяйки, че компанията „ непрекъснато работи за възстановяване на нашите системи “.

Правилата на YouTube за дезинформация не разрешават подправени или манипулирани видеоклипове. Платформата разгласи предходната година, че ще стартира да изисква от основателите да разкриват реалистични изменени или генерирани от AI материали.

Отвръщане на удара с AI

Ситуацията не е напълно мрачна. Въпреки че потреблението на AI от измамниците нараства, същото е и приемането му от институции, вариращи от банки, Visa и Mastercard до профилирани софтуерни компании.

„ Ако човешкото око не може да разбере дали е същинско, играта не е завършила “, споделя Бъд от iProov. „ Това е игра на котка и мишка и ние се развиваме толкоз бързо, колкото и неприятните, с цел да останем напред. “

Той споделя, че технологията на неговата компания, която е предопределена да оказва помощ в битката с дълбоките имитации и други имитации, е бил употребен от клиенти, в това число Калифорнийския отдел за моторни транспортни средства, Дигиталната работа на държавното управление на Обединеното кралство и огромни банки в Южна Америка.

Друго пускане, употребяващо AI за противопоставяне на измамите, е основаната в Съединени американски щати Catch, която цели с цел да помогне на уязвими възрастни посредством разкриване на измами по имейл, обяснение на алените флагове и препоръчване на последващи стъпки.

„ Парите, които [възрастните хора] са склонни да губят, са доста по-ценни за тях – междинният размер на чека, който загубата е по-висока и в случай че се пенсионират, нямат време да върнат тези пари “, споделя съоснователят Ури Пърл.

ИИ също се употребява от банките, с цел да поддържат войска от чиновници, оценяващи евентуални нарушавания на наредбите за битка с изпирането на пари.

„ Има доста готини дребни компании, които се появяват в региона на „ опознай своя клиент “, споделя Гудмундур Кристиянсон, създател и основен изпълнителен шеф на Icelandic fintech Lucinity. „ Правим доста разработки с generative AI. “

Един от продуктите на Lucinity, с прякор Lucy, взема данни и ги обработва в елементарен за четене формат, ускорявайки това, което обичайно е било мощно ръчен развой за наблюдаване на транзакциите.

Загуба на доверие

Но даже тези усъвършенствания може да не са в положение да защитят против някои области на офанзива.

„ За гласа наподобява играта завърши — става все по-ясно, че няма отбрана “, споделя Бъд, защото дребното количество данни в аудио файловете затруднява софтуерните компании да разграничат същинското от подправеното.

И въздействието върху жертвите на измами, ръководени от AI, надвишава финансовите загуби, евентуални или действителни. Фицджералд споделя, че опитът му е влошил визията му за технологиите. Той заобикаля електронната търговия и множеството обществени медийни платформи и споделя, че му е по-удобно да тегли пари в банката и да ги харчи, в сравнение с да употребява карта.

„ Това телефонно позвъняване ме накара да осъзная какъв брой съм уязвим и какъв брой уязвими са нашите децата са “, споделя той. „ Не разбрах, че е допустимо това да се е случило. “

Човешка неточност

AI даде фрау