Защо мениджърите на киберриска трябва да се борят с AI с AI

Технологията за изкуствен интелект показва нови опасности — и нови благоприятни условия — за финансовите институции, които се надяват да подобрят своята киберсигурност и да понижат измамите.

Банките и Групите за финансови услуги трябваше да се борят с хакерски атаки в продължение на десетилетия, защото техните финансови активи и големи бази данни с клиенти ги вършат съществена цел за хакери.

Сега обаче те се изправят против нарушители, употребяващи генеративен AI - който може подготвени на изображения и видеоклипове на действителни клиенти или ръководители, за основаване на аудио и видео клипове, представящи ги. Те имат капацитет да заблудят системите за киберсигурност, предизвестяват специалисти. Според отчет на платформата за инспекция на самоличността Sumsub броят на случаите с „ надълбоко подправяне “ в бранша на финансовите технологии се е нараснал със 700 % през 2023 година на годишна база.

В същото време незаконните групировки употребяват генеративни AI технологии за разпространяване на злотворен програмен продукт или злотворен програмен продукт. В един опит откривателите на киберсигурността са употребявали AI огромен езиков модел (LLM), с цел да разработят доброкачествена форма на злотворен програмен продукт, който може да събира персонална информация, като потребителски имена, пароли и номера на кредитни карти. Чрез непрекъсната смяна на кода си, злонамереният програмен продукт е съумял да избегне системите за ИТ сигурност, откриха откривателите.

За да се опълчват на опасността, фирмите за финансови услуги – които са измежду най-големите харчещи на технологии – внедряват AI в своята киберзащита. Поне от десетилетие банките употребяват разнообразни типове изкуствен интелект, като да вземем за пример машинно образование, за разкриване на измами посредством забелязване на модели в транзакциите и маркиране на аномалии.

Трудността се състои в поддържането на крайник с киберпрестъпниците, които имат достъп до най-новите AI принадлежности. Много банки се борят да го създадат, съгласно отчет, оповестен през март от Министерството на финансите на Съединени американски щати. Той стигна до заключението, че финансовите компании би трябвало да обмислят по-широко потребление на AI за противопоставяне на киберпрестъпниците, разбиращи се в технологиите, и да споделят повече информация по отношение на заканите за сигурността на AI.

Внедряването на AI по този метод обаче може да сътвори други опасности. Едно от опасенията е, че нарушителите могат да се опитат да инжектират подправени данни в LLM, които са в основата на генеративните AI системи, като ChatGPT на OpenAI, употребявани от компании за финансови услуги.

„ Ако нападателят инжектира естествени [финансови] транзакции като лъжливи или противоположното, тогава [AI] моделът ще се научи да класифицира тези действия погрешно “, предизвестява Андрю Шварц, старши анализатор в Celent, консултантска компания, профилирана във финансови услуги.

Някои компании за финансови услуги обаче упорстват с генеративни AI системи. През февруари Mastercard, компанията за разплащателни технологии, пресъздава личния си генериращ AI програмен продукт, който съгласно нея може да помогне на банките да откриват по-добре измами. Този програмен продукт, който проучва транзакциите в мрежата на Mastercard, ще може да сканира 1tn точки от данни, с цел да предскаже дали транзакцията е същинска.

Mastercard споделя, че технологията може да е в положение да увеличи степента на разкриване на измами в банките с, на приблизително 20 %, а в някои случаи до 300 %.

Подобреното с изкуствен интелект наблюдаване на транзакциите може да обезпечи друга огромна изгода: понижение с над 85 % на „ подправените позитивни резултати “ оповестяват, съгласно Mastercard. Това са случаи, при които банка неправилно маркира законна транзакция като лъжлива. Mastercard възнамерява да направи функционалността AI комерсиално налична по-късно тази година.

„ [Нашият AI] в действителност оказва помощ да предоставим по-добро преживяване на потребителите, като в същото време тъкмо открива верните измами “, споделя Йохан Гербер, Mastercard изпълнителен вицепрезидент по киберсигурност и нововъведения.

Други функционалности за киберсигурност, като анализиране на закани в действително време и координирането на по-бързи дейности против тях също може да бъде автоматизирано.

Например ирландската компания FBD Insurance употребява основан на изкуствен интелект програмен продукт за сигурност от Smarttech247, с цел да проучва до 15 000 ИТ „ събития “ в секунда в своята мрежа за евентуални закани за сигурността. Такива събития могат да включват достъп на чиновник до неразрешени ИТ или имейл системи, или пробиви в защитната стена.

„ Голяма смяна в нашия AI е, че ние интерпретираме и инспектираме нещата, до момента в който се случват “, споделя Енда Кайн, гл. софтуерен и действен чиновник във FBD. Традиционната технология за киберсигурност лишава повече време за разкриване на закани, като го прави „ след обстоятелството “, изяснява той.

Експертите обаче акцентират, че киберзащитите, задвижвани от AI, няма да заменят експертите по ИТ и ръководство на риска на финансовите групи в обозримо бъдеще. Възникващите дефекти в генеративния AI – като фабрикуването на обстоятелства или „ илюзия “ – значат, че технологията към момента се нуждае от деликатен контрол.

Нападателите ще употребяват AI от ден на ден и повече. И вие просто не можете да се борите с мащаба на активността, без сами да употребявате AI

Ром Елиаху, шеф бизнес развиване в BlueVoyant, компания за киберсигурност

Яшин Ахмед, който управлява услуги за киберсигурност във финансовите услуги в софтуерната група IBM, има смесени възгледи по отношение на потреблението на AI от финансовите компании за киберсигурност. Въпреки че изкуственият разсъдък може да сътвори „ голяма успеваемост “ за осведомителната сигурност, той прибавя, че фирмите за финансови услуги се „ борят “ да наблюдават повишаването на потреблението му.

„ Те не знаят всички места, където бизнесът наложително употребява AI “, показва той. „ И те не знаят дали бизнесът е обезпечил изкуствения разсъдък по време на процеса на разработка и дали бизнесът разполага с принадлежности за обезпечаване на изкуствения разсъдък, откакто той бъде разпрострат в роля, насочена към клиента. “

Набиране на личен състав личният състав с вярната композиция от AI и кибер умения може да помогне за минимизиране на непредвидените последици. Но намирането на личен състав може да бъде предизвикателство, поради повече от десетилетие световен дефицит на личен състав за киберсигурност и интензивна конкуренция за AI специалисти от огромни софтуерни компании.

„ Много дребен “ брой претенденти „ имат равнището на схващане и опит “, които фирмите за финансови услуги желаят, споделя Джанкарло Хирш, ръководещ шеф в Glocomms, компания за набиране на личен състав в региона на технологиите. „ Така че това е доста по-нисък набор от претенденти. “

Търсенето на киберсигурност, усъвършенствана с AI, също е евентуално да увеличи продажбите на подготвен програмен продукт. Глобалният пазар на AI артикули и услуги за киберсигурност се предвижда да нарасне от към 24 милиарда $ през 2023 година до близо 134 милиарда $ до 2030 година, съгласно доставчика на данни Statista.

„ Нападателите ще употребяват AI от ден на ден и повече през идващите години “, споделя Ром Елиаху, шеф бизнес развиване в BlueVoyant, компания за киберсигурност. „ И вие просто не можете да се борите с мащаба на активност, без да употребявате AI и машинно образование. Ще има прекалено много закани. “