Компанията изгуби 35 милиона долара, след като измамници организираха видео разговор с дълбоко фалшив финансов директор, колеги
Мултинационална фирма в Хонконг изгуби 200 милиона хонконгски долара (около 34,5 милиона канадски долара), след като финансов служител в компанията беше атакуван от измамници използване на изкуствен интелект, което завършва с фалшив видеоконферентен разговор с много колеги deepfake.
Полицията обсъди подробности за инцидента, без да назовава замесената компания или работник, по време на пресконференция, за да предупреди обществеността за новата измама .
И.д. старши надзирател Барон Чан от Бюрото за киберсигурност и технологични престъпления на полицията в Хонконг каза, че измамата е започнала миналия месец, когато работникът е получил имейл, уж от базирания в Обединеното кралство главен финансов директор на компанията (CFO ).
Имейлът се отнасяше до „тайна сделка“, която трябваше да бъде извършена, според South China Morning Post. Служителят имаше ранен „момент на съмнение“, тъй като имейлът изглеждаше като фишинг измама, но в крайна сметка бяха измамени, след като фалшивият финансов директор ги покани на видеоконферентен разговор.
По време на разговора изглежда да са многобройни други колеги, които служителят е разпознал – те дори звучаха като истинска сделка. Но те не бяха колеги на човека; те изобщо не бяха хора. Те бяха deepfakes, вид синтетична медия, създадена чрез машинно обучение, която може да имитира външния вид и речта на човек. Дигитално пресъздаден финансов директор и няколко външни лица също присъстваха на конферентния разговор.
Вземете последните национални новини. Изпраща се на вашия имейл, всеки ден.„Тъй като хората във видеоконференцията изглеждаха като истинските хора, (служителят)… направи 15 транзакции според инструкциите към пет местни банкови сметки, което възлиза на общо 200 милиона хонконгски долара“, каза Чан по време на пресконференцията , излъчено от Radio Television Hong Kong.
„Вярвам, че измамникът е изтеглил видеоклипове предварително и след това е използвал изкуствен интелект, за да добави фалшиви гласове, които да използва във видеоконференцията“, добави Чан.
Експертите предупредиха, че AI генерирането на глас и видео става все по-лесно достъпно с подобряването на технологията. Преди бяха необходими обширни записи, за да се създаде правдоподобен клониран глас, но сега са необходими само секунди записана реч. Всеки публичен видеоклип може да се използва за обучение на AI модел да имитира гласа и външния вид на човек.
„Искаме да предупредим обществеността за тези нови тактики за измама. В миналото бихме предположили, че тези измами включват само двама души в ситуации един на един, но можем да видим от този случай, че измамниците могат да използват AI технология в онлайн срещи, така че хората трябва да бъдат бдителни дори при срещи с много участници“, каза Чан.
Служителят, който беше измамен, не осъзна грешката до седмица по-късно, когато се регистрира в централата на компанията. През това време измамниците поддържаха връзка с жертвата чрез незабавни съобщения, имейли и индивидуални видео разговори.
Полицията разкри също, че шепа други работници във фирмата са се свързали от измамниците , въпреки че подробности за тези взаимодействия не бяха публикувани.
Чан каза, че по време на фалшивото видеообаждане измамниците са накарали служителя да се представи, но никога не е имало директен разговор между колегите от deepfake и жертвата. Колегите, генерирани от изкуствен интелект, са давали заповеди преди края на кратката среща, съобщава South China Morning Post.
Хонконгската полиция съветва служителите да потвърждават подробностите за бизнес сделките чрез редовни комуникационни канали и да стават подозрителни веднага щом парите е замесен, за да избегне подобни измами с ИИ.
Полицията все още разследва инцидента и досега няма арестувани.
