Финансови министри и топ банкери изразиха сериозна загриженост относно модела Mythos AI
Финансовите министри, централните банкери и финансисти показаха сериозна угриженост по отношение на нов мощен модел на изкуствен интелект (AI), който може да подкопае сигурността на финансовите системи. Разработването на модела Claude Mythos от Anthropic докара до спешни срещи, откакто откри уязвимости във всяка съществена операционна система и браузър. Експертите предизвестиха, че моделът евентуално има невиждана дарба да разпознава и употребява недостатъци в киберсигурността. Канадският министър на финансите Франсоа-Филип Шампань сподели пред BBC, че Mythos е бил разискван необятно от сътрудниците му на основната среща на Международния валутен фонд (МВФ) във Вашингтон тази седмица. " Със сигурност е задоволително съществено, с цел да оправдае вниманието на всички финансови министри ", сподели той. " Разликата с Ормузкия пролив е, че знаем къде се намира и знаем какъв брой огромен е. Проблемът, пред който сме изправени с Anthropic е, че е незнаен, незнаен. " Изисква доста внимание, с цел да имаме защитни ограничения и да имаме процеси на място, с цел да сме сигурни, че подсигуряваме устойчивостта на нашата финансова система. " На най-хубавите банкери би трябвало да бъде възложен достъп до модела авансово, с цел да тестват своите системи. Главният изпълнителен шеф на Barclays, CS Venkatakrishnan, сподели пред BBC: „ Достатъчно съществено е, че хората би трябвало да се тревожат. " Трябва да го разберем по-добре и би трябвало да разберем уязвимостите, които се разкриват, и да ги поправяме бързо. " Той добави, че " това ще бъде новият свят " - като се базира на доста по-свързана финансова система, както с благоприятни условия, по този начин и с уязвимости. Докато разработчикът Anthropic сподели, че моделът към този момент е изложил голям брой уязвимости в сигурността в някои сериозни операционни системи, финансови системи и уеб браузъри, на държавните управления и банките се предлага достъп преди общественото му стартиране, с цел да оказват помощ за отбраната на личните си системи. Управителят на Bank of England Андрю Бейли сподели пред BBC, че създаването би трябвало да се вземе доста съществено: „ Сега би трябвало да разгледаме доста деликатно какво може да значи тази последна разработка на AI за риска от киберпрестъпления. " Има развиване на AI, на моделиране, което улеснява откриването на съществуващи уязвимости в нещо като съществени ИТ системи, а по-късно явно и киберпрестъпници, които неприятните участници биха могли да се стремят да ги експлоатират. " Министерството на финансите на Съединени американски щати удостовери, че е повдигнало въпроса с главните си банки, които ги предизвикват да тестват своите системи, преди каквото и да е обществено стартиране на Mythos от Anthropic. Източници от финансовата промишленост показаха, че друга известна американска компания за изкуствен интелект може скоро да пусне сходен мощен модел, само че без същите защитни ограничения. Джеймс Уайз, сътрудник в Balderton Capital е ръководител на отдела Sovereign AI, фонд за рисков капитал, който ще влага в английски компании за изкуствен интелект, подсилен от 500 милиона английски лири държавно финансиране. Той сподели, че Mythos е „ първият от това, което ще бъде доста по-мощни модели “, който може да разкрие уязвимостите на системите. Неговото звено " влага в английски AI компании, които се оправят с това - компании, работещи в региона на сигурността и сигурността на AI ", сподели той пред BBC Today Programme. " Надяваме се, че моделите, които разкриват уязвимостите, са и моделите, които ще ги поправят. "
