Защо мениджърите на киберриска трябва да се борят с AI с AI
Технологията за изкуствен интелект представя нови рискове — и нови възможности — за финансовите институции, които се надяват да подобрят своята киберсигурност и да намалят измамите.
Банките и Групите за финансови услуги трябваше да се борят с кибератаки в продължение на десетилетия, тъй като техните финансови активи и огромни бази данни с клиенти ги правят основна мишена за хакери.
Сега обаче те се изправят срещу престъпници, използващи генеративен AI - който може обучени на изображения и видеоклипове на реални клиенти или ръководители, за създаване на аудио и видео клипове, представящи ги. Те имат потенциал да заблудят системите за киберсигурност, предупреждават експерти. Според доклад на платформата за проверка на самоличността Sumsub броят на инцидентите с „дълбоко фалшифициране“ в сектора на финансовите технологии се е увеличил със 700 процента през 2023 г. на годишна база.
В същото време престъпните групировки използват генеративни AI технологии за разпространение на зловреден софтуер или зловреден софтуер. В един експеримент изследователите на киберсигурността са използвали AI голям езиков модел (LLM), за да разработят доброкачествена форма на зловреден софтуер, който може да събира лична информация, като потребителски имена, пароли и номера на кредитни карти. Чрез постоянна промяна на кода си, злонамереният софтуер е успял да избегне системите за ИТ сигурност, установиха изследователите.
За да се противопоставят на заплахата, компаниите за финансови услуги – които са сред най-големите харчещи на технологии – внедряват AI в своята киберзащита. Поне от десетилетие банките използват различни видове изкуствен интелект, като например машинно обучение, за откриване на измами чрез забелязване на модели в транзакциите и маркиране на аномалии.
Трудността се състои в поддържането на крак с киберпрестъпниците, които имат достъп до най-новите AI инструменти. Много банки се борят да го направят, според доклад, публикуван през март от Министерството на финансите на САЩ. Той стигна до заключението, че финансовите компании трябва да обмислят по-широко използване на AI за противодействие на киберпрестъпниците, разбиращи се в технологиите, и да споделят повече информация относно заплахите за сигурността на AI.
Внедряването на AI по този начин обаче може да създаде други рискове. Едно от опасенията е, че престъпниците могат да се опитат да инжектират фалшиви данни в LLM, които са в основата на генеративните AI системи, като ChatGPT на OpenAI, използвани от компании за финансови услуги.
„Ако нападателят инжектира нормални [финансови] транзакции като измамни или обратното, тогава [AI] моделът ще се научи да класифицира тези дейности неправилно“, предупреждава Андрю Шварц, старши анализатор в Celent, консултантска компания, специализирана във финансови услуги.
Навигирането в киберриска Изкуственият интелект е решението за кибер заплахи за сигурността?Някои компании за финансови услуги обаче настояват с генеративни AI системи. През февруари Mastercard, компанията за разплащателни технологии, визуализира собствения си генериращ AI софтуер, който според нея може да помогне на банките да откриват по-добре измами. Този софтуер, който анализира транзакциите в мрежата на Mastercard, ще може да сканира 1tn точки от данни, за да предскаже дали транзакцията е истинска.
Mastercard казва, че технологията може да е в състояние да повиши степента на откриване на измами в банките с, на средно 20 процента, а в някои случаи до 300 процента.
Подобреното с изкуствен интелект наблюдение на транзакциите може да осигури друга голяма полза: намаление с над 85 процента на „фалшивите положителни резултати“ съобщават, според Mastercard. Това са случаи, при които банка погрешно маркира легитимна транзакция като измамна. Mastercard планира да направи функцията AI комерсиално достъпна по-късно тази година.
„[Нашият AI] наистина помага да предоставим по-добро изживяване на потребителите, като същевременно точно открива правилните измами“, казва Йохан Гербер, Mastercard изпълнителен вицепрезидент по киберсигурност и иновации.
300% Увеличение на процента на откриване на измами в някои случаи, както се твърди от Mastercard при използване на нейния софтуер за изкуствен интелектДруги функции за киберсигурност, като анализиране на заплахи в реално време и координирането на по-бързи действия срещу тях също може да бъде автоматизирано.
Например ирландската компания FBD Insurance използва базиран на изкуствен интелект софтуер за сигурност от Smarttech247, за да анализира до 15 000 ИТ „събития“ в секунда в своята мрежа за потенциални заплахи за сигурността. Такива събития могат да включват достъп на служител до забранени ИТ или имейл системи, или пробиви в защитната стена.
„Голяма промяна в нашия AI е, че ние интерпретираме и инспектираме нещата, докато се случват“, казва Енда Кайн, гл. технологичен и оперативен служител във FBD. Традиционната технология за киберсигурност отнема повече време за откриване на заплахи, като го прави „след факта“, обяснява той.
Експертите обаче подчертават, че киберзащитите, задвижвани от AI, няма да заменят специалистите по ИТ и управление на риска на финансовите групи в обозримо бъдеще. Възникващите недостатъци в генеративния AI – като фабрикуването на факти или „халюцинация“ – означават, че технологията все още се нуждае от внимателен надзор.
Яшин Ахмед, който ръководи услуги за киберсигурност във финансовите услуги в технологичната група IBM, има смесени възгледи относно използването на AI от финансовите компании за киберсигурност. Въпреки че изкуственият интелект може да създаде „огромна ефективност“ за информационната сигурност, той добавя, че компаниите за финансови услуги се „борят“ да следят нарастването на използването му.
„Те не знаят всички места, където бизнесът задължително използва AI“, посочва той. „И те не знаят дали бизнесът е осигурил изкуствения интелект по време на процеса на разработка и дали бизнесът разполага с инструменти за осигуряване на изкуствения интелект, след като той бъде разгърнат в роля, ориентирана към клиента.“
Набиране на персонал персоналът с правилната комбинация от AI и кибер умения може да помогне за минимизиране на непредвидените последствия. Но намирането на персонал може да бъде предизвикателство, предвид повече от десетилетие глобален недостиг на персонал за киберсигурност и интензивна конкуренция за AI експерти от големи технологични компании.
„Много малък“ брой кандидати „имат нивото на разбиране и опит“, които компаниите за финансови услуги искат, казва Джанкарло Хирш, управляващ директор в Glocomms, компания за набиране на персонал в областта на технологиите. „Така че това е много по-нисък набор от кандидати.“
Търсенето на киберсигурност, подобрена с AI, също е вероятно да повиши продажбите на готов софтуер. Глобалният пазар на AI продукти и услуги за киберсигурност се прогнозира да нарасне от около 24 милиарда долара през 2023 г. до близо 134 милиарда долара до 2030 г., според доставчика на данни Statista.
„Нападателите ще използват AI все повече и повече през следващите години“, казва Ром Елиаху, директор бизнес развитие в BlueVoyant, компания за киберсигурност. „И вие просто не можете да се борите с мащаба на дейност, без да използвате AI и машинно обучение. Ще има твърде много заплахи.“
