AI киберсигурност рискове и измами с Deepfake във възход

Представете си, че телефонът ви звъни и гласът на другия край звучи тъкмо като вашия началник, непосредствен другар или даже държавен чиновник. Те незабавно желаят сензитивна информация, като се изключи че в действителност не са те. Това е Deepfake, задвижван от AI, и вие сте цел на изискана машинация. Тези типове офанзиви се случват сега и те стават все по -убедителни всеки ден.

Това е предизвестието, звучено от отчета за сигурност на AI през 2025 година, оголен на конференцията на RSA (RSAC), една от най -големите международни събирания за специалисти по киберсигурност, компании и правоприлагане. The report details how criminals are harnessing artificial intelligence to impersonate people, automate scams, and attack security systems on a massive scale.

From hijacked AI accounts and manipulated models to live video scams and data poisoning, the report paints a picture of a rapidly evolving threat landscape, one that's touching more lives than ever before.

Illustration of Рискове за киберсигурност (Kurt " Cyberguy " Knutsson)

AI инструментите изтичат чувствителни данни

Един от най -големите опасности от потреблението на AI принадлежности е това, което потребителите инцидентно споделят с тях. Неотдавнашен разбор на Checksecurity Firc Check Point откри, че и към 1 на 13 съдържа сензитивна информация, която може да изложи консуматори или организации на опасности за сигурност или сходство.

Тези данни могат да включват пароли, вътрешни бизнес проекти, информация за клиента или патентован код. Когато се споделя с AI принадлежности, които не са обезопасени, тази информация може да бъде записана, прихващана или даже да изтече по-късно.

Измамите с Deepfake към този момент са в действително време и многоезичните

AI-захранваното обновяване става все по-напреднало всеки месец. Престъпниците към този момент могат да фалшифицират гласовете и да се сблъскат безапелационно в действително време. В началото на 2024 година английска инженерна компания загуби 20 милиона паунда, откакто измамници използваха видео онлайн Deepfake, с цел да показват ръководителите на компанията по време на повикване за Zoom. Нападателите изглеждаха и звучаха като надеждни водачи и убедиха чиновник да трансферира средства.

Инструментите за видео манипулиране в действително време към този момент се продават на незаконни конгреси. Тези принадлежности могат да разменят лица и да имитират тирада по време на видео диалози на няколко езика, което улеснява нападателите да извършват измами по границите.

Илюстрация на видеоконференция на човек на преносимия компютър си. Сега AI го автоматизира. Нападателите към този момент не би трябвало да приказват езика на жертвата, да останат онлайн непрекъснато или ръчно да пишат безапелационни известия.

Инструменти като Gomailpro Използвайте Chatgpt за основаване на фишинг и спам имейли с съвършена граматика и локален тон. Тези известия са надалеч по -убедителни от мръсотия измами от предишното. Gomailpro може да генерира хиляди неповторими имейли, всеки по -различен по езика и спешността, което им оказва помощ да се промъкнат около спам филтри. Той се предлага интензивно на подземни конгреси за към 500 $ на месец, което го прави необятно наличен за неприятни артисти.

Друг инструмент, X137 Telegram Console, употребява автоматизирано Gemini AI за наблюдаване и реагиране на чат известия. Той може да се показва за сътрудници за поддръжка на клиенти или известни контакти, провеждайки диалози в действително време с голям брой цели едновременно. Отговорите са нецензурирани, бързи и персонализирани въз основа на отговорите на жертвата, като дават илюзията за човек зад екрана.

AI също зарежда огромно. Това са имейли, за които лъжливо настояват, че имат компрометиране на видеоклипове или фотоси и заплащат заплащане, с цел да не им се предотврати шерването им. Вместо да употребяват едно и също известие неведнъж, измамниците в този момент разчитат на AI, с цел да пренапишат опасността по десетки способи. Например, главен ред като „ Изтичането на времето “ може да бъде преформулиран, защото „ Hourglass е съвсем празен за вас “, което прави известието да се почувства по -лично и незабавно, като в същото време заобикаля откриването.

, като възобновят нуждата от езикови притежаване и ръчни старания, тези принадлежности на AI разрешават на нападателите да мащабират трагично своите фишинг интервенции. Дори неопитни измамници към този момент могат да организират огромни, персонализирани акции с съвсем никакви старания. 

Откраднатите AI сметки се продават в тъмната мрежа

с AI инструментите стават все по -популярни, нарушителите в този момент са ориентирани към сметки, които ги употребяват. Хакерите крадат Latgpt Logins, Openai API ключове и други идентификационни данни на платформата, с цел да заобиколят рестриктивните мерки на потреблението и да скрият тяхната идентичност. Тези сметки постоянно се откраднат посредством офанзиви на злоумишлен програмен продукт, фишинг или пълномощни. След това откраднатите идентификационни данни се продават на едро по канали на телеграми и подземни конгреси. Някои нападатели даже употребяват принадлежности, които могат да заобиколят многофакторните засвидетелствуване и отбраната на сигурността, основани на сесията. Тези откраднати сметки разрешават на нарушителите да имат достъп до мощни AI принадлежности и да ги употребяват за фишинг, генериране на злоумишлен програмен продукт и автоматизация на измами.

Илюстрация на човек, който влезе в техния преносим компютър. (Kurt " CyberGuy " Knutsson)

Jailbrearking AI в този момент е обща тактичност

jailberaring a low tactic Jailberaring са намиращи се на FAPES TACTY

Jailberaking AI в този момент е обща тактичност

кримин Правилата за сигурност, вградени в AI модели. В тъмната мрежа нападателите споделят техники за JAILBERAKING AI, тъй че ще отговори на поръчки, които нормално биха били блокирани. Общите способи включват:

Казване на ИИ да се преструва, че това е фиктивен темперамент, който няма правила или ограничавания, които са в рискови въпроси като университетски или свързани с научните проучвания, записващи механически указания, употребявайки по-малко явни формулировки, тъй че поръчката да не бъде сложена на байрак

някои модели на AI могат даже да бъдат подмамени в джъринг. Нападателите подтикват модела да сътвори вход, който го кара да анулира личните си ограничавания. Това демонстрира по какъв начин AI системите могат да бъдат манипулирани по непредвидени и рискови способи.

AI, генериран злотворен програмен продукт, навлиза в главния поток

AI към този момент се употребява за създаване на злоумишлен програмен продукт, фишинг комплекти, скриптове за откуп и други. Наскоро група, наречена, беше разпозната като водеща тайфа за откуп, употребяваща AI. Нейният водач призна, че най-малко 20% от офанзивите им се зареждат от AI. Funksec също употребява AI, с цел да помогне за пускане на офанзиви, които наводняват уеб страници или услуги с подправен трафик, което ги кара да се срутен или да тръгнат офлайн. Те са известни като офанзиви за отвод на обслужване. Групата даже сътвори личен чат за AI, с цел да разпространява активността си и да поддържа връзка с жертвите на обществения си уеб страница..

Някои киберпрестъпници даже употребяват AI, с цел да оказват помощ в маркетинга и разбора на данните след офанзива. Един инструмент, наименуван твърди, че употребява AI за „ различаване на текст “, с цел да звучи по -напреднало, само че по -късно откривателите откриха, че вместо това употребява по -стара технология. Това демонстрира по какъв начин нападателите употребяват AI Buzzwords, с цел да създадат инструментите си по -напреднали или надеждни за купувачите.

Други принадлежности са по -напреднали. Един образец е DarkGpt, чатбот, построен особено за подбиране на големи бази данни с откраднат информация. След сполучлива офанзива, измамниците постоянно приключват с дневници, цялостни с потребителски имена, пароли и други частни елементи. Вместо да пресяват ръчно тези данни, те употребяват AI, с цел да намерят бързо скъпи сметки, в които могат да влязат, да продават или да употребяват за по -целенасочени офанзиви като откуп.

Вземете A, с цел да разберете дали вашата персонална информация към този момент е излязла в мрежата

отровени модели на AI популяризират десинформация

, че са отровените модели на AI. Вместо това те го подмамват, като го подхранват погрешна или подвеждаща информация. Тази тактичност се назовава AI отравяне и може да докара до AI да даде предубедени, нездравословни или изцяло неточни отговори. Има два съществени метода, по които това се случва:

Отравяне на образование: Нападателите промъкват подправени или нездравословни данни в модела по време на отравяне с развиване: подвеждащо наличие онлайн се засажда, което AI по-късно прибира при генериране на отговори

през 2024 година, нападателите качват 100 подправени модели AI на отворената платформа, прегръщаща лицето. Тези отровени модели изглеждаха като потребни принадлежности, само че когато хората ги използваха, те могат да популяризират подправена информация или да извеждат злоумишлен код.

Мащабен образец идва от съветска пропагандна група, наречена Pravda, която разгласява повече от 3,6 милиона подправени публикации онлайн. Тези публикации са проектирани по този начин, че да подмамят AI чатботите да повтарят своите известия. В тестванията откривателите откриват, че главните AI системи са повтаряли тези лъжливи изказвания към 33% от времето.

Илюстрация на хакер по време на работа (Kurt " Cyberguy " Knutsson)

по какъв начин да се отбраните от AI-задвижвани кибер закани

ai-захранване от киберпред, скорости, скорост, скорост и мащаб. Тези измами не са просто по -трудни за разкриване. Те също са по -лесни за пускане. Ето по какъв начин да останете предпазени:

1) Избягвайте въвеждането на чувствителни данни в обществени AI принадлежности: Никога не споделяйте пароли, персонални данни или поверителна бизнес информация във всеки AI чат, даже в случай че наподобява частно. Тези входове от време на време могат да бъдат регистрирани или злоупотребявани.

2) Използвайте мощен антивирусен програмен продукт: AI генерирани фишинг имейли и злотворен програмен продукт могат да се промъкнат около остарели принадлежности за сигурност. Най -добрият метод да се предпазите от злонамерени връзки, които конфигурират злоумишлен програмен продукт, евентуално достъп до вашата частна информация, е да имате мощен антивирусен програмен продукт, конфигуриран на всички ваши устройства. Тази отбрана може също по този начин да ви предизвести да фишинг имейли и измами с откуп, като запазите персоналната си информация и цифровите активи. .

3) Включете двуфакторното засвидетелствуване (2FA): Добавя спомагателен пласт отбрана към вашите сметки, в това число AI платформи. Това прави доста по -трудно нападателите да се пробият в потреблението на откраднати пароли.

4) Бъдете в допълнение внимателни с непредвидени видео диалози или гласови известия: Ако нещо се усеща изключено, даже в случай че индивидът наподобява прочут, проверете преди да предприемете дейности. Аудио и видео на Deepfake могат да звучат и да наподобяват доста действителни.

5) Използвайте услуга за унищожаване на персонални данни: С измами с AI зареждане и офанзиви на Deepfake при напредък, нарушителите от ден на ден разчитат на обществено налична персонална информация, с цел да изработят безапелационни листовки или целеви жертви с персонализиран фишинг. Използвайки реномирана услуга за унищожаване на персонални данни, можете да намалите цифровия си отпечатък върху уеб страниците за брокери на данни и обществените бази данни. Това прави доста по-трудно за измамниците да съберат детайлите, от които се нуждаят, с цел да имитират вашата идентичност или да започват ориентирани към AI офанзиви.

Докато никоя услуга не може да подсигурява цялостното унищожаване на вашите данни от интернет, услугата за унищожаване на данни в действителност е образован избор.  Те не са евтини - и нито вашата дискретност.  Тези услуги правят цялата работа за вас, като интензивно следят и систематично изтриват вашата персонална информация от стотици уеб страници.  Това е, което ми дава успокоение и се оказа най -ефективният метод да изтриете персоналните си данни от интернет.  Ограничавайки наличната информация, вие намалявате риска от кръстосани референтни данни от нарушавания с информация, която могат да намерят в тъмната мрежа, което затруднява да ви насочат. 

6) Помислете за отбрана на кражбата на идентичност: Ако вашите данни са изтекли посредством машинация, ранното разкриване е от основно значение. Услугите за отбрана на идентичността могат да следят вашата информация и да ви предизвестяват за подозрителна активност. Компаниите за кражба на идентичност могат да следят персонална информация като вашия номер за обществено обезпечаване (SSN), телефонен номер и имейл адрес и да ви предизвестяват, в случай че се продава в тъмната мрежа или се употребява за отваряне на акаунт.  Те също могат да ви оказват помощ в замразяването на вашите сметки на банката и кредитните си карти, с цел да предотвратите по -нататъшното неоторизирано потребление от нарушители. 

7) Редовно следете финансовите си сметки: Ай-генерираните от AI фишинг, злоумишлен програмен продукт и офанзиви за усвояване на акаунта към този момент са по-сложни и необятно публикувани от всеки път, както е очебийно в отчета за сигурност на AI през 2025 година Чрез ревизиране на вашите банкови и кредитни извлечения за подозрителна интензивност можете да хванете неоторизирани транзакции рано, постоянно преди да се нанесат огромни вреди. Бързото разкриване е от решаващо значение, изключително откакто откраднатите идентификационни данни и финансовата информация в този момент се търгуват и експлоатират в мащаб от киберпрестъпници, употребявайки AI.

8) Използвайте предпазен управител на пароли: Откраднатите AI сметки и атентационните офанзиви са възходяща опасност, като хакери употребяват автоматизирани принадлежности, с цел да се разделят и да продават достъп до тъмната мрежа. Защитата ви оказва помощ да създадете и съхранявате мощни, неповторими пароли за всеки акаунт, което прави доста по-трудно нападателите да компрометират вашите вход, даже в случай че част от вашата информация е изтекла или ориентирана от AI-задвижвани офанзиви. Получете повече детайлности за моя

9) Дръжте софтуера си обновен: AI генериран злотворен програмен продукт и разширени фишинг комплекти са проектирани да употребяват уязвимости в стар програмен продукт. За да останете пред тези разрастващи се закани, гарантирайте, че всички ваши устройства, браузъри и приложения се актуализират с най -новите пластири за сигурност.  Затвори пропуски в сигурността, които AI захранван злотворен програмен продукт и C