Уроци от финансите в битката срещу deepfake
Тази седмица беше поставен мрачен нов рекорд в света на бизнеса: измамници използваха deepfake бот, за да подмамят служител на компания от Хонг Конг да преведе 25 милиона долара. Подобна измама не се случва за първи път. Но това, което прави този случай смразяващ, е неговият безпрецедентен мащаб - и фактът, че изкуственият интелект е използван за създаване на фалшификат на главния финансов директор на компанията. Да, наистина.
И това не е единственият настоящ страх от ботове. Миналата есен Михал Шимечка, словашки политик, загуби избори, след като негов фалшив запис стана вирусен. Това е зловещо преди изборите в САЩ през 2024 г.
А миналия месец порнографски бот на певицата Тейлър Суифт стана вирусен. Това предизвика основателно възмущение. Но това, което е двойно по-ужасяващо, е колко широко разпространени са станали подобни ботове. За да вземем един пример, работниците по правата на човека ми казват, че в Близкия изток те все повече се отприщват срещу жени активистки, за да ги засрамят и да мълчат.
И така, какво може да се направи? За щастие, политиците най-накрая се събуждат. В САЩ политици като сенатор Джон Хикенлупър настояват за държавни и федерални правила относно ботовете. Тази седмица преговарящите от ЕС се споразумяха относно мерки за криминализиране на създаването и разпространението на вредни ботове. Индия също въвежда „изрични“ нови правила.
Правилата на ЕС обаче влизат в сила едва през 2027 г., а Конгресът все още дори не е обсъдил предложените американски законопроекти. Така че друг начин да се подходи към проблема може да бъде не просто да се създадат нови закони, свързани с AI, но да се пренасочат съществуващите правила от други бизнес сфери.
Това вече е в ход със закони относно правата за поверителност в медиите, или интелектуална собственост в творческите индустрии и сектора на потребителските стоки. Въпреки това, друга пренебрегвана досега възможност е светът на финансите.
Началната точка е да се признае, че ботовете са по същество „фалшиви“ хора, както отбеляза философът Даниел Денет. Това предполага, както наскоро ми каза историкът и автор Ювал Харари, че трябва да проучим как правителствата са се борили с „фалшификатите“ другаде – най-вече в историята, в сферата на парите.
В известен смисъл, уроците, на които ни учи историята, са обезкуражаващи. Помислете за опита на Бенджамин Франклин, един от бащите-основатели на Америка, чийто лик сега стои върху банкнотата от 100 долара. През 18-ти век той е пионер в мерките за борба с фалшифицирането на пари, което се е разпространило по време на Революционната война. Според учени от университета Нотр Дам тази инициатива, която по онова време е вероятно най-голямата, виждана някога, е използвала иновации с багрило и хартия.
За известно време тя проработи. Но измамниците отвърнаха на удара и до 19 век една трета до половината от всички американски банкноти в обращение бяха фалшиви, според Конгреса. (Което вероятно е причината Франклин да е по-известен днес с иновациите си с бифокални очила и гръмоотводи.)
И все пак тук е поразителният и окуражаващ обрат: въпреки че дигитализацията сега прави по-евтино от всякога създаването на фалшификати, по-малко от 0,01 процента от всички банкноти в обращение в световен мащаб са фалшиви, според Фед на САЩ. За стерлинги той е 0,0031 процента.
Защо фалшификатите паднаха? Бостънският федерален резерв отдава това на иновативните системи за откриване, които все повече използват AI, както и на нарастващото междуинституционално и трансгранично сътрудничество чрез Интерпол и други органи. Подозирам обаче, че друг важен въпрос е, че обществото знае, че фалшивите пари са незаконни, тъй като законите са ясни и едва минава седмица в Америка без новини за успешни съдебни преследвания.
Най-вече тези съдебни преследвания са насочени към самите създатели на фалшификати, които могат да получат до 15 години затвор и глоба от $15 000. Но ако хората съзнателно използват фалшификати, за да заблудят другите, те също могат да бъдат обвинени в измама. И докато институциите, които неволно боравят с фалшификати, досега до голяма степен са избягвали съдебно преследване, това все още може да се промени.
В ЕС Amazon е съден за продажбата на фалшиви стоки на своята платформа. Ако този случай успее, това може да създаде прецедент, който може да се разпространи. Така или иначе, банките очевидно са изправени пред силни стимули да извършват задълбочен мониторинг, за да предотвратят фалшификати.
Разбира се, ботовете не са същите като банковите сметки: те се разпространяват по-бързо от банкнотите, по-лесни са за производство и са склонни да вредят физически лица, а не институции като централните банки. И артистите могат да твърдят, че правото на свободно създаване на ботове е част от свободното изразяване.
Но основният извод от финансовата история е, че е възможно да се създаде културна рамка, която криминализира фалшифицирането. Сега това със сигурност няма да реши всички проблеми с deepfake онлайн. Но това може да помогне за възпирането на някои от тях в една решаваща изборна година.
И поглед към света на парите подчертава още един момент, както отбелязва Харари. ИИ не винаги трябва да се разглежда и третира като че ли е в собствен клас, независимо от шума на инвеститорите и политическия страх. Фалшификацията може да възникне с много различни технологии.
Така че да се надяваме, че Конгресът ще приеме закони срещу ботове и ЕС ще ускори своите правила. Но нека също така се надяваме, че технологичните компании и политиците ще вземат поука от света на парите. Може би всички трябва да преразгледаме Франклин и историята за мастилото от 18-ти век.
