Този AI червей може да краде лични данни и да изпраща спам имейли
Изследователите създадоха AI червей, върху който дори не е нужно да щраквате, за да нанесете щети.
Изследователи по сигурността създадоха червей с изкуствен интелект (AI), който може да проникне в модели като ChatGPT и Gemini и потенциално да открадне данни.
Базиран в Съединените щати и Израел, нарочно изграден компютърен червей, който да служи като сигнализатор за предотвратяване на появата им в генеративни AI (GenAI) модели.
Компютърният червей може да се възпроизвежда и да се разпространява чрез компрометиране на други машини. За разлика от други червеи, този не се нуждае от кликване или отваряне на имейл, за да получи злонамерения софтуер, той прави това автоматично в момента, в който получите заразения имейл.
Те нарекоха червея Morris II след първия в историята компютърен червей, разработен през 1988 г.
Как работи?
Изследователите създадоха имейл система, която може да отговаря на съобщения с помощта на GenAI и след това да се включва в модели ChatGPT, Gemini и LLaVA.
Morris II беше демонстриран срещу управлявани от GenAI имейл асистенти и можеше да открадне лични данни и да стартира спам кампании.
„Проучването показва, че нападателите могат да вмъкнат такива подкани във входове, които, когато се обработват от GenAI модели, подканват модела да репликира входа като изход (репликация) и да участва в злонамерени дейности (полезен товар)“, пишат изследователите.
Подкана, която е всяка въпрос или комуникация, зададена на AI модела, принуждава AI модела да отговори с друга подкана, която може да зарази AI асистента, за да извлече след това чувствителна информация.
ИИ с отворен код срещу затворен код: Каква е разликата и защо го прави има ли значение? Съперникът на OpenAI Anthropic пуска своя най-бърз и мощен чатбот Claude 3След това червеят може да бъде изпратен до други контакти във вашата онлайн мрежа, „използвайки свързаността в екосистемата на GenAI“, добавиха те.
Изследователите предупреждават, че въпреки че не са забелязани AI червеи, това е само въпрос на време.
„Това основно означава, че сега имате способността да провеждате или да извършвате нов вид кибератака, която не не е било виждано досега“, каза Бен Наси, изследовател от университета Корнел, който стои зад компютърния червей, в интервю за изданието Wired.
Проучването е тревожен случай, тъй като асистентите с изкуствен интелект го правят в смарт устройства и дори автомобили и могат да изпращат имейли или да резервират срещи от нечие име.
В друга статия, публикувана миналия месец, изследователи от Сингапур и Китай показаха, че могат лесно да получат root достъп до операционна система на голям езиков модел (LLM).
