Технологичните групи се борят да разрешат големия пропуск в сигурността на AI

Водещите международни групи за изкуствен интелект ускоряват напъните си за разрешаване на сериозен пропуск в сигурността на своите огромни езикови модели, който може да бъде употребен от киберпрестъпници.

Гугъл DeepMind, Anthropic, OpenAI и Microsoft са измежду тези, които се пробват да предотвратят по този начин наречените индиректни офанзиви с бързо инжектиране, при които трета страна крие команди в уеб страници или имейли, предопределени да подмамят AI модела да разкрие неоторизирана информация, като поверителни данни.

„ ИИ се употребява от кибер участници във всяка верига на офанзивата сега “, сподели Джейкъб Клайн, който управлява екипа за разузнаване на заканите в започващия AI Anthropic. 

Групите с изкуствен интелект употребяват разнообразни техники, в това число наемане на външни тестери и потребление на принадлежности, основани на изкуствен интелект, за разкриване и понижаване на злонамереното потребление на техните мощни технологии. Но специалистите предизвестиха, че промишлеността към момента не е решила по какъв начин да спре индиректните офанзиви с неотложно инжектиране.

Част от казуса е, че LLMs са проектирани да следват указания и сега не вършат разлика сред законни команди от консуматори и въвеждане, на което не би трябвало да се има вяра. Това е и повода, заради която AI моделите са склонни към джейлбрейк, където потребителите могат да накарат LLM да подценен техните защитни ограничения.

Клайн сподели, че Anthropic работи с външни тестери, с цел да направи своя модел Claude по-устойчив на индиректни офанзиви с бързо инжектиране. Те също имат AI принадлежности за разкриване по кое време може да се случват. 

„ Когато открием злонамерена приложимост, според от равнищата на убеденост, може автоматизирано да задействаме някаква интервенция или може да я изпратим за инспекция от човек “, добави той. 

Гугъл DeepMind употребява техника, наречена автоматизирано алено сливане, при която вътрешните откриватели на компанията непрестанно нападат нейния модел Gemini по реален метод, с цел да разкрият евентуални недостатъци в сигурността. 

През май Националният център за киберсигурност на Обединеното кралство предизвести, че този пропуск съставлява нараснала опасност, защото рискува да изложи милиони компании и лица, които употребяват LLMs и chatbots, на комплицирани фишинг офанзиви и измами. 

LLM имат и друга огромна накърнимост, при която външни лица могат да основат задни порти и да накарат моделите да се държат погрешно посредством проникване на злоумишлен материал в данни, които по-късно се употребяват в образованието на AI.

Тези по този начин наречени „ офанзиви с отравяне на данни “ са по-лесни за осъществяване, в сравнение с смятаха учените преди този момент, съгласно ново проучване, оповестено предишния месец от започващия AI Anthropic, Института за сигурност на AI на Обединеното кралство и Института Алън Тюринг.

Въпреки че тези уязвимости крият огромни опасности, специалистите настояват, че изкуственият разсъдък също оказва помощ за усилване на отбраната на компанията против хакерски атаки.

От години нападателите имаха леко преимущество, защото трябваше да намерят единствено една уязвимост, до момента в който бранителите трябваше да пазят всичко, сподели корпоративният вицепрезидент на Microsoft и заместник-главен шеф по осведомителна сигурност Ан Джонсън.

„ Отбранителните системи се учат по-бързо, приспособяват се по-бързо и минават от реактивни към самодейни “, добави тя.

Надпреварата за разрешаване на дефекти в моделите на ИИ идва, когато киберсигурността се обрисува като една от най-големите паники за фирмите, които желаят да одобряват принадлежности за ИИ в своя бизнес.

Неотдавнашен разбор на Financial Times на стотици корпоративни документи и преписи на изпълнителни шефове в компании от S&P 500 предходната година откри, че най-често цитираното безпокойствие е киберсигурността, която е упомената като риск от повече от половината от S&P 500 през 2024 година

Експерти по хакерство споделиха, че напредъкът на ИИ през последните години към този момент е дал подтик на промишлеността за киберпрестъпления за милиарди долари. Той даде на хакерите дилетанти евтини принадлежности за писане на нездравословен програмен продукт, както и системи за професионални нарушители за по-добро автоматизиране и увеличение на мащаба на техните интервенции. 

LLM разрешават на хакерите бързо да генерират нов злоумишлен код, който към момента не е открит, което прави отбраната против него по-трудна, сподели Джейк Мур, световен консултант по киберсигурност в групата за киберсигурност ESET.

Неотдавнашно изследване на откриватели от Масачузетския софтуерен институт откри, че 80 % от изследваните от тях офанзиви с ransomware са употребявали AI, а през 2024 година фишинг измамите и обвързваните с deepfake измами, свързани с технологията, са се нараснали с 60 %.

Инструментите на AI също се употребяват от хакери за събиране на информация за жертвите онлайн. LLM могат да претърсят дейно мрежата за персонални данни в нечии обществени сметки, изображения или даже да намерят аудио клипове на някой, който приказва.

Те могат да се употребяват за осъществяване на комплицирани офанзиви със обществено инженерство за финансови закононарушения, сподели Пол Фабара, основен чиновник по риска и потребителските услуги на Visa. 

Виджай Баласубраманиан, основен изпълнителен шеф и съосновател на Pindrop, компания за киберсигурност, профилирана в гласови измами, сподели, че генеративният AI е направил основаването на реалистично звучащи deepfakes доста по-лесно и по-бързо от преди. 

„ Още през 2023 година щяхме да виждаме една deepfake офанзива на месец в цялата потребителска база. Сега виждаме седем дневно на клиент “, добави той. 

Компаниите са изключително уязвими към този тип офанзиви, сподели Мур от ESET. Системите с изкуствен интелект могат да съпоставят информация от обществения интернет, като изявления на чиновници в LinkedIn, с цел да схванат какви стратегии и софтуерни компании употребяват всекидневно, и по-късно да ги употребяват, с цел да намерят уязвимости. 

Anthropic неотдавна прехвана модернизиран артист, употребяващ езиковите модели на компанията за „ хакване на трептения “, където индивидът беше автоматизирал доста от процесите на широкомащабна офанзива.

Лошият артист употребява Claude Code, с цел да автоматизира разузнаването, да извлече идентификационните данни на жертвите и да проникне в системи. Лицето се е насочило към 17 организации, с цел да изнуди до 500 000 $ от тях. 

Киберекспертите споделиха, че фирмите би трябвало да останат бдителни при наблюдението за нови закани и да обмислят ограничение на броя хора, които имат достъп до чувствителни набори от данни и AI принадлежности, които са склонни към офанзиви.  

„ В днешно време не е нужно доста, с цел да бъдеш шарлатанин “, сподели Фабара от Visa. „ Получавате преносим компютър, 15 $ за евакуиране на евтината незаконна версия на Gen AI в тъмната мрежа и тръгвате. “