Джанет Йелън предупреждава, че ИИ във финансите крие „значителни рискове“

Министърът на финансите Джанет Йелън се чака да предизвести банкери и механически ръководители в четвъртък, че до момента в който изкуственият разсъдък може да отвори вратата към големи награди за финансовата система, технологията също заплашва да вкара нови рискове, съгласно фрагменти от тирада, споделени първо с CNN.

Речта на Йелън на конференция за финансова стабилност представлява най-обширните й забележки до момента по отношение на ИИ.

Това идва, когато вложителите се борят да получат част от взрива на ИИ, софтуерните колоси се впускат в конкуренция във въоръжаването с ИИ, а регулаторите се тормозят какво може да се обърка.

„ Огромните благоприятни условия и забележителните опасности, свързани с потреблението на AI от финансовите компании, изместиха този въпрос към върха “ в дневния ред на финансовите регулатори, Йелън възнамерява да каже в квалифицираните забележки, които ще бъдат показани на конференцията, която се организира на Четвъртък в Министерството на финансите на Съединени американски щати и в петък в института Брукингс.

От страна на опциите, Йелън ще означи по какъв начин AI към този момент е бил употребен от вложителите за подкрепяне на прогнозирането и ръководството на портфейла и от банките за битка с измамите и поддръжка на обслужването на клиенти, съгласно квалифицираните бележки.

Занапред Йелън се чака да каже, че „ бързата еволюция “ на AI може да проправи пътя за по-евтини и по-лесен достъп до финансовите услуги, акцентирайки съответно напредъка в обработката на натурален език, разпознаването на изображения и генеративния AI.

AI chatbots, в това число ChatGPT на OpenAI и Gemini на Гугъл, превзеха потребителите със своите качества. Най-новите AI принадлежности могат съвсем незабавно да основават изображения, да изплюват текстове на песни, а някои даже могат да генерират видеоклипове с кино качество.

Самата Йелън е опитала с AI chatbots, сподели чиновник на Министерството на финансите пред CNN.

„ Знам, че всички вие тук също признавате, че потреблението на AI от финансовите институции носи опасности дружно с тези благоприятни условия “, сподели Йелън в квалифицираните бележки.

Служител на Министерството на финансите сподели пред CNN, че конференцията се чака да включва композиция от регулатори, механически ръководители, мениджъри на активи, застрахователи, учени, организации на гражданското общество и дребни и огромни банки.

Миналия декември екип от водещи американски регулатори, управителен от Йелън предупреди за първи път, че ИИ съставлява риск за финансовата система. Съветът за контрол на финансовата непоклатимост, SWAT екип от регулатори, образуван след финансовата рецесия от 2008 година, публично дефинира ИИ като „ нововъзникваща накърнимост “.

В речта си Йелън възнамерява да уточни какво може да се обърка на финансовите пазари.

Например, Йелън ще означи, че „ сложността и непрозрачността “ на AI моделите може да аргументи проблеми.

Проблемът е, че доста AI модели работят като „ черна кутия “, което значи, че тяхната вътрешна работа е непроницаема за външни лица.

Ако компаниите от Уолстрийт разчитат на мистериозни AI модели, регулаторите ще се борят да схванат какъв брой безвредни са в действителност техните системи.

Йелън възнамерява също по този начин да цитира „ несъответстващи рамки за ръководство на риска “ към рисковете от ИИ и „ взаимовръзки, които пораждат, защото доста участници на пазара разчитат на едни и същи данни и модели “.

С други думи, в случай че доста вложители разчитат на принадлежности, които дават еднакъв резултат, това може да докара до препълнени пазарни позиции, които изострят придвижванията на пазара, както нагоре, по този начин и надолу.

По същия метод Йелън ще каже, че има риск от „ централизация “, обвързван с обстоятелството, че има единствено няколко компании, предоставящи AI модели. Това значи, че в случай че една падне, доста компании на Уолстрийт могат да бъдат наранени.

Друго терзание: моделите на изкуствен интелект от време на време могат да изведат предубедени резултати. И това може да бъде главен проблем в действителния свят, изключително когато става въпрос за взимане на финансови решения като да вземем за пример кой да получи заем.

„ Недостатъчните или неправилни данни също биха могли да увековечат или вкарат нови пристрастия при вземането на финансови решения “, ще каже Йелън съгласно квалифицираните бележки.

Едно огромно предизвикателство пред ИИ, което Йелън не преглежда в фрагментите от речта си: по този начин наречените халюцинации. AI моделите имат история на измисляне на неща, постоянно по безапелационен метод.

Подобни халюцинации и преди са създавали проблеми на юристи, когато са цитирали правосъдна процедура, която не съществува.

Очаква се Йелън да подчертае, че регулаторите възнамеряват да продължат да следят въздействието на ИИ върху финансовата непоклатимост.

Като се има поради какъв брой бързо се развива AI, Йелън ще каже, че регулаторите и промишлеността могат да употребяват разбор на сюжети, с цел да схванат по-добре „ бъдещите уязвимости “ и какво може да се направи, с цел да се „ увеличи устойчивостта “.

Служител на Министерството на финансите сподели пред CNN, че FSOC работи за свързване на точките за това по какъв начин AI може да съставлява опасност за финансовата система, в това число посредством увеличение на напъните за наблюдаване по какъв начин към този момент се употребява.

Разбира се, самите чиновници на Съединени американски щати разчитат на AI, с цел да си правят работата.

Например IRS разгласи предишния септември, че е започнала да употребява AI за разкриване на данъчни измами.

А през февруари Министерството на финансите разкри, че е внедрило безшумно AI, с цел да хване неприятни момчета, опитващи се да крадат от данъкоплатците.

Министерството на финансите възнамерява да направи още повече с AI в бъдеще.