Уроци от финансите в битката срещу deepfake

Тази седмица беше подложен тъмен нов връх в света на бизнеса: измамници използваха deepfake бот, с цел да подмамят чиновник на компания от Хонг Конг да преведе 25 милиона $. Подобна машинация не се случва за първи път. Но това, което прави този случай вцепеняващ, е неговият невиждан мащаб - и фактът, че изкуственият разсъдък е употребен за основаване на фалшификат на основния финансов шеф на компанията. Да, в действителност.

И това не е единственият сегашен боязън от ботове. Миналата есен Михал Шимечка, словашки политик, загуби избори, откакто негов подправен запис стана вирусен. Това е злокобно преди изборите в Съединени американски щати през 2024 година

А предишния месец нецензурен бот на певицата Тейлър Суифт стана вирусен. Това провокира основателно отвращение. Но това, което е двойно по-ужасяващо, е какъв брой необятно публикувани са станали сходни ботове. За да вземем един образец, служащите по правата на индивида ми споделят, че в Близкия изток те от ден на ден се отприщват против дами активистки, с цел да ги засрамят и да мълчат.

И по този начин, какво може да се направи? За благополучие, политиците най-сетне се разсънват. В Съединени американски щати политици като сенатор Джон Хикенлупър упорстват за държавни и федерални правила по отношение на ботовете. Тази седмица договарящите от Европейски Съюз се споразумяха по отношение на ограничения за криминализиране на основаването и разпространяването на нездравословни ботове. Индия също вкарва „ експлицитни “ нови правила.

Правилата на Европейски Съюз обаче влизат в действие едвам през 2027 година, а Конгресът към момента даже не е разискал препоръчаните американски законопроекти. Така че различен метод да се подходи към казуса може да бъде не просто да се основат нови закони, свързани с AI, само че да се пренасочат съществуващите правила от други бизнес сфери.

Това към този момент е в ход със закони по отношение на правата за дискретност в медиите, или интелектуална благосъстоятелност в креативните промишлености и бранша на потребителските артикули. Въпреки това, друга подценявана до момента опция е светът на финансите.

Началната точка е да се признае, че ботовете са всъщност „ подправени “ хора, както означи философът Даниел Денет. Това допуска, както неотдавна ми сподели историкът и създател Ювал Харари, че би трябвало да проучим по какъв начин държавните управления са се борили с „ фалшификатите “ другаде – най-много в историята, в областта на парите.

В прочут смисъл, уроците, на които ни учи историята, са обезкуражаващи. Помислете за опита на Бенджамин Франклин, един от бащите-основатели на Америка, чийто лик в този момент стои върху банкнотата от 100 $. През 18-ти век той е пионер в ограниченията за битка с подправянето на пари, което се е популяризирало по време на Революционната война. Според учени от университета Нотр Дам тази самодейност, която по това време е евентуално най-голямата, виждана в миналото, е употребила нововъведения с багрило и хартия.

За известно време тя проработи. Но измамниците отвърнаха на удара и до 19 век една трета до половината от всички американски банкноти в обращение бяха подправени, съгласно Конгреса. (Което евентуално е повода Франклин да е по-известен през днешния ден с нововъведенията си с бифокални очила и гръмоотводи.)

И въпреки всичко тук е поразителният и окуражаващ поврат: макар че дигитализацията в този момент прави по-евтино от всеки път основаването на имитации, по-малко от 0,01 % от всички банкноти в обращение в международен мащаб са подправени, съгласно Фед на Съединени американски щати. За стерлинги той е 0,0031 %.

Защо фалшификатите паднаха? Бостънският федерален запас отдава това на новаторските системи за разкриване, които от ден на ден употребяват AI, както и на възходящото междуинституционално и трансгранично съдействие посредством Интерпол и други органи. Подозирам обаче, че различен значим въпрос е, че обществото знае, че подправените пари са противозаконни, защото законите са ясни и едвам минава седмица в Америка без вести за сполучливи правосъдни преследвания.

Най-вече тези правосъдни преследвания са ориентирани към самите основатели на имитации, които могат да получат до 15 години затвор и санкция от $15 000. Но в случай че хората умишлено употребяват имитации, с цел да заблудят другите, те също могат да бъдат упрекнати в машинация. И до момента в който институциите, които несъзнателно боравят с имитации, до момента значително са избягвали правосъдно гонене, това към момента може да се промени.

В Европейски Съюз Amazon е съден за продажбата на подправени артикули на своята платформа. Ако този случай успее, това може да сътвори казус, който може да се популяризира. Така или другояче, банките явно са изправени пред мощни тласъци да правят изчерпателен мониторинг, с цел да предотвратят имитации.

Разбира се, ботовете не са същите като банковите сметки: те се популяризират по-бързо от банкнотите, по-лесни са за произвеждане и са склонни да вредят физически лица, а не институции като централните банки. И артистите могат да настояват, че правото на свободно основаване на ботове е част от свободното изложение.

Но главният извод от финансовата история е, че е допустимо да се сътвори културна рамка, която криминализира подправянето. Сега това сигурно няма да реши всички проблеми с deepfake онлайн. Но това може да помогне за възпирането на някои от тях в една решаваща изборна година.

И взор към света на парите акцентира още един миг, както отбелязва Харари. ИИ не постоянно би трябвало да се преглежда и третира сякаш е в личен клас, без значение от шума на вложителите и политическия боязън. Фалшификацията може да възникне с доста разнообразни технологии.

Така че да се надяваме, че Конгресът ще одобри закони против ботове и Европейски Съюз ще форсира своите правила. Но дано също по този начин се надяваме, че софтуерните компании и политиците ще вземат поука от света на парите. Може би всички би трябвало да преразгледаме Франклин и историята за мастилото от 18-ти век.