Следващият модел на Anthropic може да бъде „преломен момент“ за киберсигурността. Експертите казват, че това също може да бъде проблем

Вижте всички тематики Връзката е копирана! Следвайте

Следващата вълна от офанзиви за киберсигурност, задвижвани от AI, няма да наподобява на нищо, което сме виждали до момента.

Това е известието, което AI компанията Anthropic изпрати в изтекла обява в блог предходната седмица, в която предизвести, че идният AI модел, наименуван Mythos, и други като него могат да експлоатират уязвимости с невиждано движение.

И не е единственият: OpenAI предизвести през декември, че идните му модели съставляват „ висок “ риск за киберсигурността. Експертите към този момент споделиха, че AI може да усили съществуващите рискове и бързо да генерира нови софтуерни хакове.

Но възходът на AI сътрудници или AI помощници, които могат да извършват задания самостоятелно, извежда този риск на друго равнище, предизвестяват някои специалисти. Един-единствен AI сътрудник може да сканира за уязвимости и евентуално да се възползва от тях по-бързо и по-упорито от стотици човешки хакери.

„ Агентите нападатели идват “, сподели Шломо Крамер, създател и основен изпълнителен шеф на компанията за киберсигурност и мрежи Cato Networks. „ Това е преломно събитие в историята на киберсигурността. “

Изтичането на „ Mythos “.

Подробности за Mythos изтекоха в непубликувана обява в блог, за която първо заяви Fortune. Anthropic не отговори на настояването на CNN за коментар. Но компанията сподели на Fortune, че приключването е резултат от човешка неточност в системата за ръководство на наличието.

„ Въпреки че Mythos сега е надалеч пред всеки различен AI модел в кибернетични благоприятни условия, той предвещава идна вълна от модели, които могат да употребяват уязвимостите по способи, които надалеч изпреварват напъните на бранителите “, сподели Anthropic в плана.

Компанията разрешава на избрани организации да тестват модела преди време, с цел да подобрят своите системи „ против идната вълна от експлойти, ръководени от AI “, се споделя в известието.

Anthropic също по този начин частно предизвестява държавни чиновници за капацитета за широкомащабни хакерски атаки, задействани от Mythos, съгласно Axios.

Но идващият модел на всяка лаборатория ще съставлява все по-сериозни закани за киберсигурността, сподели Крамър пред CNN.

„ Зад Mythos стои идващият OpenAI модел и идващият Гугъл Gemini, а няколко месеца зад тях са китайските модели с отворен код “, сподели той.

AI прави допустимо потреблението на уязвимостите съвсем незабавно след откриването им, сподели Евън Пеня, основен офицер по сигурността на офанзивите във компанията за киберсигурност Armadin.

Но към момента има ограничавания за това, което моделите могат да създадат, съгласно Пеня.

Усъвършенстваните AI модели са положителни за проучване на софтуерни уязвимости и създаване на код за тяхното потребление. Но им липсва подтекстът, който човешкият хакер би имал за това коя е най-ценната информация за една организация за кражба, сподели Пеня.

Винаги ще има място за хора в хакерска атака, употребяваща AI, сподели Джо Лин, сподели Джо Лин, съосновател и основен изпълнителен шеф на Twenty, компания, която продава офанзивни кибер качества на държавното управление на Съединени американски щати.

„ Трябва да подсигуряваме, че построяваме оръжейни системи, при които хората остават твърдо в контрола върху решенията и резултатите, тъй като до момента в който машината се оправя с осъществяването, индивидът постоянно би трябвало да има следствията “, сподели той.

Задвижваните от AI хакерски атаки се увеличават

Пример за това по какъв начин изкуственият разсъдък е направил относително неквалифицираните хакери по-опасни пристигна през януари, когато рускоезичен киберпрестъпник употребява голям брой принадлежности за изкуствен интелект, с цел да хакне над 600 устройства, работещи с известен програмен продукт за защитна стена допълнително от 55 страни, съгласно екипа за проучване на сигурността на Amazon Web Services. Хакерът е употребявал генеративни AI услуги, с цел да „ приложи и мащабира добре познати техники за офанзива през всяка фаза от техните интервенции, макар лимитираните им механически благоприятни условия “, сподели AWS.

Хакерът е употребявал модела Claude на Anthropic, както и творби в Китай DeepSeek в офанзивата, съгласно Еял Села, шеф за разузнаване на закани в Gambit Security. В един миг хакерът помоли Клод на съветски да сътвори уеб панел за ръководство на стотици цели на хакерите, съгласно чат журналите, които хакерът е имал с AI модели, които Села показа с CNN.

AI дава на хакерите с разнообразни умения „ суперсили “ посредством опростяване на техническите знания, нужни за потребление на системи, съгласно Sela.

През февруари хакер употребява Клод в поредност от офанзиви против мексикански държавни организации, кражба на сензитивна данъчна и изборна информация, заяви Bloomberg.

Китай и други съперници на Съединени американски щати „ търсят каквото и да е преимущество, с цел да подобрят продуктивността на личния си AI “, сподели Джо Лин, съосновател и основен изпълнителен шеф на Twenty, компания, която продава офанзивни кибер качества на държавното управление на Съединени американски щати.

Това значи евентуално копаене на всевъзможни течове на модели на ИИ на Съединени американски щати, с цел да се опитат да „ заредят своите лични системи за кибероръжия “, сподели той.

Напредъкът на AI в киберсигурността е нож с две остриета: нападателите могат да употребяват AI модели и сътрудници, с цел да покачат качествата си, до момента в който същите тези благоприятни условия разрешават непрестанно наблюдаване, по-бързо идентифициране на закани и автоматизирани корекции в мащаб, с който никой човешки екип не може да се оправи.

Източник: cnn.com