Твърди се, че банките в САЩ откриват неупълномощени агенти с изкуствен интелект, които имат достъп до клиентски сметки: Какво трябва да знаете

Големи американски банки стягат рестриктивните мерки за сътрудници с изкуствен интелект (AI) на трети страни, откакто открият случаи на достъп на технологията до потребителски сметки, като някои сътрудници наподобява работят без значение от инструкциите на потребителите, съгласно отчет на Axios.

Финансови институции, в това число Morgan Stanley, Bank of America, JPMorgan Chase, Wells Fargo и Citigroup работят за ограничение на рисковете, подбудени от AI сътрудници, защото технологията напредва по-бързо, в сравнение с банките могат да приспособяват своите системи и политики за сигурност, заяви Axios, цитирайки хора, осведомени с въпроса.

Притесненията са съсредоточени върху това дали AI сътрудниците с достъп до банкови идентификационни данни могат да правят неразрешени транзакции, да реалокират средства или да правят други действия, които засягат финансите на клиентите. Банките също се борят да разграничат сътрудниците, настоящи по указания на потребителя, и тези, които работят отвън предоставените им пълномощия.

Ето какво би трябвало да знаете за казуса.

Какво съставляват AI сътрудниците и за какво са загрижени банките?

AI сътрудниците са софтуерни системи, предопределени да извършват задания от името на потребителите, евентуално с лимитирана човешка интервенция. В взаимозависимост от предоставените позволения, те може да са в положение да направляват в уеб страници, да извличат информация, да взаимодействат с услуги и да извършват съответни задания.

В банкирането клиентите биха могли да употребяват тези принадлежности, с цел да преглеждат своите финанси, да ръководят бюджети, да вършат покупки или да правят други действия посредством своите сметки.

Въпреки това, достъпът до банкова сметка вкарва опасности, които надвишават тези, свързани с елементарните AI помощници. Ако сътрудник има идентификационни данни за вход на клиент и позволение за осъществяване на транзакции, той евентуално може да предприеме дейности с директни финансови последствия.

Според Axios банковите ръководители са загрижени за това, че сътрудниците имат достъп до сметки и се пробват да правят действия, които наподобява не следват инструкциите на потребителите.

Някои банки също са наблюдавали случаи, в които сътрудници са се свързвали с центрове за позвънявания или наподобява, че подхващат дейности без значение от клиента, хора, осведомени с проблем сподели Axios.

Докладът не открива, че тези произшествия са довели до финансови загуби.

Кои банки в Съединени американски щати лимитират AI сътрудниците?

Няколко огромни финансови институции подхващат стъпки за ограничение на достъпа на трети страни AI сътрудници до техните платформи, заяви Axios.

- Morgan Stanley: Банката стартира да блокира достъпа на AI сътрудници на трети страни до своите платформи, съгласно хора, осведомени с решението.

- JPMorgan Chase: Банката е измежду институциите, които лимитират достъпа на сътрудници на трети страни.

- Bank of America: Банката също лимитира сътрудници, заяви Axios.

- Citigroup: Citi е измежду банките, които подхващат стъпки за ограничение на достъпа.

- Wells Fargo: Банката е измежду финансовите институции, разпознати в отчета като противопоставящи се на опасности, свързани с AI сътрудници.

Говорител на Morgan Stanley сподели на Axios, че банката не е забелязала случаи на „ лъжливи AI сътрудници, които имат достъп до нашите платформи “.

Говорител на Chase посъветва клиентите да не споделят своите потребителски имена и пароли с никого.

Съобщените ограничавания отразяват опасенията на банките по отношение на позволяването на външен програмен продукт да взаимодейства със системи, които съхраняват сензитивна финансова информация.

Как могат ли AI сътрудници да имат достъп до банкови сметки на клиенти?

Според Axios, някои от обстановките включват AI сътрудници или асистенти, които имат достъп до сметките на клиенти, употребявайки идентификационни данни за вход, предоставени от самите притежатели на сметки.

Въпреки че клиентите могат да упълномощят сътрудник за достъп до тяхната информация, това може да опонира на разпоредбите на банките, които изискват клиентите да влизат в личните си сметки.

Разликата е значима: клиент разрешава сътрудник с изкуствен интелект за достъп до сметка не значи безусловно, че банката позволява този достъп според своите условия за обслужване.

По-голямото безпокойствие поражда, когато на сътрудниците се дават позволения отвън елементарното ревизиране на информация. Агент с опция да прави покупки или да трансферира пари евентуално може да извърши дейности, които потребителите не са възнамерявали.

Банките също са изправени пред настрана предизвикателство при определянето дали активността на сътрудника е в действителност ориентирана към потребителите. Според Axios за някои ръководители е било мъчно да открият дали даден сътрудник е бил акредитиран от клиент или е надхвърлил позволената си роля.

Защо банките обмислят достъп единствено за четене?

Вместо да позволяват безграничен достъп на AI сътрудници, множеството банки са разрешили или се придвижват към разрешаване на достъп единствено за четене, заяви Axios.

Разрешенията единствено за четене биха разрешили на сътрудник да преглеждайте финансова информация, без да можете да предизвиквате транзакции или по различен метод да измененията сметка.

Този метод може да разреши на клиентите да употребяват принадлежности с изкуствен интелект за обзор на разноските, образуване на бюджети и разбор на финансова информация, като в същото време понижават риска сътрудниците да реалокират пари или да вършат покупки.

Банките към този момент дават сходен достъп до някои приложения на трети страни, в това число Quicken, което предлага принадлежности за бюджетиране и персонални финанси.

Достъпът единствено за четене обаче не е цялостно решение за всеки проблем със сигурността. Банките въпреки всичко ще би трябвало да подсигуряват, че сензитивната финансова информация е налична по подобаващ метод и че титулярите на сметки резервират контрола върху това кой може да преглежда данните им.

Защо е мъчно да се разграничат упълномощените сътрудници от подправения AI?

Едно от най-големите провокации за финансовите институции е да се дефинира дали AI сътрудник работи в границите на границите, заложени от неговия консуматор.

Традиционните банкови системи за сигурност са проектирани да разпознават подозрителни влизания, транзакции и друго извънредно държание. Агентите с изкуствен интелект усложняват тази задача, защото могат да имат достъп до сметки, употребявайки законни идентификационни данни, и да правят действия, които наподобяват на обикновено държание на клиента.

Агентът може да има разрешението на притежателя на акаунта да извлича информация, само че да се опита да извърши деяние отвън това позволение. Банките може да се затрудняват да дефинират дали активността отразява действителните планове на потребителя.

Axios оповестява, че банките срещат компликации при разграничаването на другите сътрудници и при установяването дали даден сътрудник е бил акредитиран от клиента или е получил достъп и е почнал да работи без значение.

Бързото развиване на AI технологията прибавя към предизвикването, защото могат да се появят нови благоприятни условия и евентуални уязвимости, преди финансовите институции да са актуализирали своите защитни ограничения.

Какво вършат банките, с цел да се приготвят за обвързваните с AI опасности за сигурността?

Банките работят за попречване на неоторизирана активност, като в същото време приготвят проекти за деяние при изключителни обстановки, ако техните защитни ограничения се провалят, съгласно Axios.

Техният отговор включва ограничение на сътрудници на трети страни, преразглеждане на изискванията, при които външен програмен продукт може да реализира достъп до сметки и правене на проекти за обезпечаване или възобновяване на достъпа на клиенти, в случай че възникне сериозен случай.

В отчета се споделя, че някои институции също по този начин подхващат обмисляне на сюжет „ ден след “, с цел да дефинират по какъв начин биха реагирали, в случай че случай със сигурността, обвързван с ИИ, наруши достъпа до сметки на клиенти.

Финансовите институции са изправени пред мъчно балансиране. Те признават, че клиентите евентуално ще желаят AI сътрудници да се оправят с повече финансови задания в бъдеще, само че даването на необятен достъп до тези принадлежности, преди да бъдат въведени съответни защитни ограничения, може да изложи клиентите на обилни опасности.

Както заяви Axios, банките разполагат с финансови запаси и опит в работата с сериозна инфраструктура, само че единствено парите може да не са задоволителни, с цел да бъдат в крайник с технологията, която се развива бързо.

Какво значи това за клиентите на банките?

За клиентите непосредственото терзание е какъв брой достъп дават на AI принадлежности и дали този достъп е в сходство с политиките на тяхната банка.

Клиентите би трябвало да заобикалят шерването на банкови потребителски имена, пароли или други чувствителни идентификационни данни с услуги на AI на трети страни, в случай че не са удостоверили, че съглашението се поддържа и позволява от техните финансови институция.

Когато са налични, лимитираните позволения, като да вземем за пример достъп единствено за четене, могат да понижат риска, обвързван с разрешаването на външен инструмент за обзор на финансова информация. Клиентите би трябвало също по този начин да преглеждат разрешенията, предоставени на обвързваните приложения, и да следят своите сметки за непозната активност.

Развитието не значи, че всички AI сътрудници са неупълномощени или че всеки случай на достъп на сътрудник е злоумишлен. Те акцентират възходящ проблем за финансовите институции: гарантиране, че AI инструментите могат да дават потребни услуги, без да компрометират сигурността на акаунта или да работят отвън инструкциите на клиента.