Служител на NSA предупреждава за хакери, които използват изкуствен интелект, за да усъвършенстват английския си във фишинг схеми
НЮ ЙОРК — Хакери и пропагандисти се обръщат към чатботове с генеративен изкуствен интелект като ChatGPT, за да направят операциите си по-убедителни за говорещите английски език , каза високопоставен служител в Агенцията за национална сигурност във вторник.
Говорейки на Международната конференция за киберсигурност в университета Фордъм, директорът по киберсигурността на NSA Роб Джойс каза, че шпионската агенция е виждала както киберпрестъпници, така и хакери които работят за чуждестранни разузнавателни агенции, използвайки тези чатботове, за да изглеждат по-скоро като говорещи английски език.
„Вече виждаме престъпни елементи и елементи от национална държава, използващи AI“, каза той. „Виждаме разузнавателни оператори, виждаме престъпници на тези платформи.“
„Днес те са много по-добри в англоезичното съдържание“, каза Джойс.
Докато генеративните AI чатботове често произвеждат неточна информация, технологията бързо стана изключително умела в имитирането на убедително и граматически правилно писане.
Хакерските операции често разчитат отчасти на за фишинг схеми, използвани за подвеждане на лице да предостави личната си информация. Правителството на САЩ, изследователи и технологични компании многократно са обвинявали страни като Русия в организиране на онлайн пропагандни кампании чрез създаване на акаунти, които фалшиво се представят за американски потребители. Generative AI помага на хакерите да усъвършенстват и генерират своите комуникации, което прави злонамерената онлайн дейност по-убедителна, каза Джойс.
„Едно от първите неща, които правят, е, че просто генерират по-добър английски езиков достъп до техните жертви, независимо дали става въпрос за фишинг имейли или нещо много по-сложно в случай на злонамерено влияние“, каза той.
Джойс не назова конкретна компания за ИИ, но каза, че проблемът е широко разпространен.
„Всички те са абонирани за компании с големи имена, които бихме очаквали, всички генеративни AI модели там“, каза той.
Повечето генеративни AI услуги казват, че забраняват техните продукти да се използват за престъпна дейност. Но това често е тривиално. NBC News успя лесно да убеди ChatGPT на OpenAI и Bard на Google да създадат убедителни фишинг имейли във вторник.
В изявление представител на Google каза: „Имаме политики и защити срещу използване на генериране на съдържание за измамни или измамни дейности като фишинг. Въпреки че използването на генериращ AI за постигане на отрицателни резултати е проблем във всички LLM, ние изградихме важни предпазни парапети в Bard, които ще продължим да подобряваме с течение на времето.“
OpenAI не отговори веднага на искане за коментар.
От друга страна, AI става все по-полезен инструмент за защита на киберсигурността, каза Джойс.
През септември шефът на NSA, ген. Пол М. Накасоне, обяви създаването на Центъра за сигурност на изкуствения интелект, който Министерството на отбраната нарече в съобщение за пресата „фокусна точка за разработване на най-добри практики , методология за оценка и рамки за риск с цел насърчаване на сигурното приемане на нови способности на AI в предприятието за национална сигурност и индустриалната база на отбраната.“
Джойс каза, „Машинното обучение с AI, задълбоченото обучение абсолютно ни прави по-добри в намирането на злонамерена дейност. Помага ни да виждаме нещата осветени, така че да се открояват от нормата.“
Кевин Колиър
