Компанията изгуби 35 милиона долара, след като измамници организираха видео разговор с дълбоко фалшив финансов директор, колеги

Мултинационална компания в Хонконг изгуби 200 милиона хонконгски $ (около 34,5 милиона канадски долара), откакто финансов чиновник в компанията беше нападнат от измамници потребление на изкуствен интелект, което приключва с подправен видеоконферентен диалог с доста сътрудници deepfake.

Полицията разиска детайлности за случая, без да посочва забърканата компания или служащ, по време на конференция, с цел да предизвести обществеността за новата машинация.

И.д. старши надзорник Барон Чан от Бюрото за киберсигурност и софтуерни закононарушения на полицията в Хонконг сподели, че измамата е почнала предишния месец, когато служащият е получил имейл, сякаш от основания в Обединеното кралство основен финансов шеф на компанията (CFO ).

Имейлът се отнасяше до „ загадка договорка “, която трябваше да бъде осъществена, съгласно South China Morning Post. Служителят имаше ранен „ миг на подозрение “, защото имейлът изглеждаше като фишинг машинация, само че в последна сметка бяха излъгани, откакто подправеният финансов шеф ги предложения на видеоконферентен диалог.

По време на диалога наподобява да са многочислени други сътрудници, които служителят е разпознал – те даже звучаха като същинска договорка. Но те не бяха сътрудници на човека; те въобще не бяха хора. Те бяха deepfakes, тип синтетична медия, основана посредством машинно образование, която може да имитира външния тип и речта на човек. Дигитално пресъздаден финансов шеф и няколко външни лица също участваха на конферентния диалог.

„ Тъй като хората във видеоконференцията изглеждаха като същинските хора, (служителят)… направи 15 транзакции съгласно инструкциите към пет локални банкови сметки, което възлиза на общо 200 милиона хонконгски $ “, сподели Чан по време на конференцията, излъчено от Radio Television Hong Kong.

„ Вярвам, че измамникът е изтеглил видеоклипове авансово и по-късно е употребявал изкуствен интелект, с цел да добави подправени гласове, които да употребява във видеоконференцията “, добави Чан.

Експертите предизвестиха, че AI генерирането на глас и видео става все по-лесно налично с подобряването на технологията. Преди бяха нужни обширни записи, с цел да се сътвори достоверен клониран глас, само че в този момент са нужни единствено секунди записана тирада. Всеки обществен видеоклип може да се употребява за образование на AI модел да имитира гласа и външния тип на човек.

„ Искаме да предупредим обществеността за тези нови тактики за машинация. В предишното бихме предположили, че тези измами включват единствено двама души в обстановки един на един, само че можем да забележим от този случай, че измамниците могат да употребяват AI технология в онлайн срещи, тъй че хората би трябвало да бъдат бдителни даже при срещи с доста участници “, сподели Чан.

Служителят, който беше излъган, не осъзна грешката до седмица по-късно, когато се записва в централата на компанията. През това време измамниците поддържаха връзка с жертвата посредством незабавни известия, имейли и самостоятелни видео диалози.

Полицията разкри също, че шепа други служащи във компанията са се свързали от измамниците, макар че детайлности за тези взаимоотношения не бяха оповестени.

Чан сподели, че по време на подправеното видеообаждане измамниците са предиздвикали служителя да се показа, само че в никакъв случай не е имало пряк диалог сред сътрудниците от deepfake и жертвата. Колегите, генерирани от изкуствен интелект, са давали заповеди преди края на късата среща, оповестява South China Morning Post.

Хонконгската полиция поучава чиновниците да удостоверяват детайлностите за бизнес покупко-продажбите посредством постоянни информационни канали и да стават подозрителни незабавно щом парите е забъркан, с цел да избегне сходни измами с ИИ.

Полицията към момента проверява случая и до момента няма задържани.