Смразяващо AI предупреждение, докато измамниците се учат как да откраднат гласа ви - ето как да се предпазите
Експертите предупредиха, че измамниците все повече използват AI, за да откраднат самоличността на хората - и гласовете - в опит да подмамят хиляди от джоб.
Това е измама, която е все по-разпространена, тъй като изкуственият интелект е станал лесно достъпен, често безплатно, като е просто още един инструмент в техния арсенал за хитро измамване на невинни и често уязвими хора. Експертите по киберсигурност изразиха загриженост относно мошениците, които крадат информацията на хората от техните акаунти в социалните медии, само за да се представят за тях, за да заблудят другите.
Нова поредица от Канал 5 Кражба на самоличност: Не ви хващат, която продължава тази вечер, изследва как престъпниците използват модерната технология, за да създават нови измами. Той чува от жена, която е била измамена да мисли, че дъщеря й е била отвлечена, тъй като престъпниците са го използвали, за да клонират гласа й.
Друга жертва беше ограбена за повече от £1000 за технологии, тъй като те използваха приложение, което се преструваше, че купуват iPad от нея, докато друга обсъжда как е загубила контрола над акаунтите си в социалните медии в полза на хакер.
Докато легитимните организации използват AI, за да разширят способността си да отговарят на клиентите, често в опит да могат бързо да разрешават прости проблеми, същото важи и за престъпниците, които искат да разширят своите операции. Даниел Принс, професор по киберсигурност в университета Ланкастър, каза пред Mirror: „Тази способност за „увеличаване“ е един аспект, за който престъпниците използват генеративни AI технологии.
„Тя им позволява да преследват големи количества на лица по правдоподобен начин, докато не накарат някой да отговори и след това могат да ги предадат на истински човек, който да прокара измамата. Виждали сме този подход и преди и всеки, който разглежда своята имейл кутия или папка за нежелана поща, може да потвърди броя на автоматизираните измамни съобщения, които получава.
„Използването на генериращ AI обаче надхвърля този тип автоматизация на престъпна дейност. Дава възможност на престъпниците да конструират фалшиви „модели“ на реални хора, за да засилят престъпната си дейност.“
Професор Принс твърди, че за престъпниците може да бъде лесно да конструират модели на индивиди, като използват софтуер, който може да отговаря чрез текстови съобщения като познато лице, да създава аудио, което звучи като някой и дори да генерира видео и снимки.
„Тези модели се обучават на публично достъпна информация за хора, обикновено от социалните медии“, предупреди той. „Текст, аудио, изображения и видео могат да бъдат събрани от акаунти в социални медии, ако са отворени или ако техните връзки и акаунти на приятели са били компрометирани.
„И използването на AI често не отнема много информация за създаване на нещо правдоподобно. След като тези модели бъдат обучени, тогава е възможно да се конструират медии, които да се използват, когато се достига до потенциална цел, за да се опитате да ги накарате да се ангажират. Но често срещан трик е да се опитате да създадете ситуация на високо напрежение или тревожност, като например любим човек, нуждаещ се от помощ, или авторитетна фигура или организация, изискваща действие."
Експертът предупреждава, че същият сценарий може също кандидатстват в професионална обстановка, където обикновено включват имейли, изпратени уж от високопоставена фигура в организацията с искане за промяна на данните за плащане например. Може да бъде още по-убедително, ако се остави гласова поща.
Д-р Кейти Пакстън-Фийр, преподавател по киберсигурност в университета Манчестър Метрополитън, казва, че е виждала набор от различни атаки за кражба на самоличност. Само един пример е, когато престъпник дублира акаунт във Facebook - при което снимките се клонират заедно с публикациите.
След това те се свързват с приятели, казвайки, че са били хакнати и че това е новият акаунт, заедно със злонамерена връзка, която улавя тяхното потребителско име и парола. Междувременно през последната година се увеличиха дълбоките фалшиви видеоклипове - където AI се използва за клониране на нечий глас и подобие.
„Има някои доклади, че това се използва върху отделни лица, но в момента е по-скоро с известни личности, защото изисква голям брой примери за човек, който говори към камера“, каза д-р Пакстън-Фийр пред Mirror. Тя цитира примера на MoneySavingExpert Мартин Люис, чието лице и аудио са били използвани за продажба на измамни инвестиционни схеми, с дълбоко фалшива реклама, обикаляща във Facebook.
Миналата година той се появи в Good Morning Britain, за да изрази гнева и възмущението си от измамите и разкри, че е накарал членове на обществеността да му изпращат гневни съобщения, след като са вярвали, че наистина той ги е измамил. Говорейки с Бен Шепърд и Кейт Гарауей, г-н Луис каза: „Това е абсолютно ужасяващо развитие.
„Това все още е само ранен етап от технологията и те тепърва ще се подобряват... Аз съм вътрешно ядосан за това. Тези измами унищожават животи. Въздействието на измамите върху психичното здраве и самочувствието е огромно. След всички тези години, колко пъти съм предупреждавал, че не правя реклами, все още водим тези разговори.
„Сега дълбоко фалшивите видеоклипове са много правдоподобни. Ние сме в опасно дистопично бъдеще...“
Д-р Пакстън-Фийр повтаря коментарите на професор Принс, като казва: „Ние“ видях също възхода на AI като цяло, като използват инструменти като ChatGPT, мошениците могат да персонализират своите атаки, като имат съобщения, които са насочени конкретно към вас. Въпреки че инструментите за AI се опитват да предотвратят това, често техните решения могат да бъдат заобиколени.
"Това позволява на измамниците да се насочат точно към вас, вашата работа или приятели. Всички измами са създадени, за да бъдат лесни за улавяне и те винаги се възползват от нашата по-добра природа, за да помагат на другите и да вършат добра работа, особено сега тези измами са изключително съобразени с индивидите."
Експертен съвет
Професор Принс съветва читателите да обмислят присъствието си в социалните медии. „Помислете дали да заключите профила си, за да ограничите информацията за това, че излизате публично“, предложи той. „Избягвайте да приемате връзки, докато не проверите кои са те в действителност.
„Помислете за настоящите си връзки, наистина ли трябва да поддържате връзка с човека, когото сте срещнали на почивка преди пет години и с когото не сте разговаряли оттогава? Всяка връзка е начин, по който престъпникът може да получи информация относно теб."
Експертът също предлага да помислите как проверявате съобщенията и обажданията. „Да си подозрителен не е лошо нещо и ако се притесняваш, просто се обади директно на човека или се обади на партньора му или на някой, който може да ги познава“, инструктира той. Ако сте били хванати, важно е да действате незабавно, тъй като е по-вероятно да получите парите си обратно.
Проф Принс препоръчва да имате под ръка номера на горещата линия на вашата банка. Важно е да уведомите полицията, Националния център за киберсигурност (NCSC) или Action Fraud. Той също така предлага да имате сложни пароли, да използвате двуфакторно удостоверяване и да включите известия за сигурност, за да наблюдавате къде влизате и от какви устройства.
Той също така казва да се повиши осведомеността сред роднини и близки приятели. „Изнесете го наяве и обсъдете как бихте искали пари и т.н. – като знаете това предварително, ще ви помогне да откриете, че нещата може да не са правилни“, каза проф. Принс.
„Това трябва да се обсъди, тъй като този тип престъпления стават все по-често срещани и воденето на тези типове разговори с най-близките ви хора – включително всички деца – може да направи разликата между някои, за които държите, да бъдат измамени или не."
Д-р Кейти казва никога да не се страхувате да задавате на хората защитен въпрос, както би направила вашата банка, като например „Кога се срещнахме за последен път?" или „Кой е моят пряк мениджър?“ ако това е странно съобщение на работа. „Ако се свържете с някой на високо ниво във вашата компания, винаги се консултирайте с вашия ИТ екип или екип по сигурността“, повтори тя.
„Никога не се доверявайте на номер в WhatsApp, който твърди, че е някой, когото познавате, и винаги оставайте бдителни. Deepfake видеоклиповете ще изглеждат странно, може да има роботизиран глас и движението ще изглежда неестествено. Проучете преди инвестирайки пари в схема или криптовалута, не се доверявайте само на знаменитост. Ако нещо изглежда твърде хубаво, за да е истина, вероятно е така."
