Трябва да можем да държим технологичните платформи отговорни за измами

През април тази година FT разгласява моя колона за „ deepfake “ в Instagram, една от платформите на Meta. Един някогашен сътрудник ми го беше обърнал внимание през март, тъй като фалшификатът се представяше за мен. Но този Мартин Улф даде капиталов съвет, който аз в никакъв случай не бих направил. FT убеди Мета да го смъкна. Но скоро се появи още веднъж. Играехме на „ удари къртица “ с измамници.

В последна сметка бях записан в нова система Meta, която употребява технология за различаване на лица за битка с сходни измами. Това проработи: дълбоките имитации изчезнаха. Моето умозаключение е, че Мета може да ги спре, в случай че е решена да го направи.

За страдание, това не беше преди те да бъдат необятно публикувани. Един сътрудник ми сподели, че има най-малко три разнообразни надълбоко подправени видеоклипа и голям брой фотошопирани изображения, показващи над 1700 реклами с леки вариации във Фейсбук и Instagram. Данните от Ad Library на Meta демонстрират, че тези реклами са достигнали до над 970 000 консуматори единствено в Европейски Съюз – където наредбите изискват платформите да регистрират такива числа. В международен мащаб броят на изложените на рекламите би трябвало да е бил кратно на това.

Много хора, които познавам, са имали същото прекарване. По-рано този месец изказване на Berkshire Hathaway предизвести хората да не се заблуждават от видеоклипове, за които се твърди, че са на самия Уорън Бъфет, които се появиха в YouTube. Той добави, че „ господин Бъфет е угрижен, че този вид лъжливи видеоклипове се трансформират в разпространяващ се вирус “.

Два скорошни отчета разкриват мащаба на протичащото се. Единият, от Джеф Хорвиц от Ройтерс, се появи под заглавието „ Мета печели цяло положение от потоп от лъжливи реклами, демонстрират документи “. В него се показва, че „ Мета вътрешно предвижда в края на предходната година, че ще печели към 10 % от общите си годишни доходи – или 16 милиарда $ – от стартиране на реклами за измами и неразрешени артикули, демонстрират вътрешни документи на компанията “.

„ Кеш от документи, които преди този момент не са докладвани, прегледани от Ройтерс “, продължава отчетът, „ също демонстрира, че колосът на обществените медии в продължение на най-малко три години не е съумял да разпознава и спре лавина от реклами което изложи милиардите консуматори на Фейсбук, Instagram и WhatsApp на лъжливи схеми за електронна търговия и вложения ”.

Историята отбелязва, че „ огромна част от измамите идват от търговци, настоящи задоволително съмнително, с цел да бъдат маркирани от вътрешните предупредителни системи на Meta ”. И въпреки всичко доказателствата демонстрират, че компанията не разрешава рекламодатели единствено в случай че нейните системи плануват, че търговците са най-малко 95 % сигурни, че правят машинация. И по този начин, какво се случва, в случай че вероятността е по-ниска? Според Reuters „ Meta таксува по-високи рекламни цени “.

Това е система, предопределена да усили рентабилността от издание на реклами, за които е доста евентуално да бъдат лъжливи. Най-лошото от всичко е, че логаритмите на Meta подсигуряват, че хората, които кликат върху измами, евентуално ще видят повече от тях.

Докладът на Reuters се основава на документи, основани в Meta сред 2021 и 2025 година Говорителят на Meta Анди Стоун съгласно Reuters е споделил, че документите „ показват селективен мироглед, който изкривява метода на Meta към измамите и измамите “, добавяйки, че „ ние нападателно битка с измамите и измамите “. Може би по този начин. Но съгласно нашия опит Meta е работила дейно единствено след доста недоволства от FT. Това поддържа хипотезата, че може да работи, само че не бърза да го направи. Както Ройтерс също отбелязва: „ Презентация от май 2025 година на екипа по сигурност на [Meta] пресметна, че платформите на компанията са взели участие в една трета от всички сполучливи измами в Съединени американски щати. “

Този „ вирус “, както вярно го назовава Бъфет, освен вреди на хората, които се доверяват на лъжливи реклами. Има и страна на предлагането на бизнеса. През октомври английското държавно управление разгласява документ, в който се показва, че " в цяла Югоизточна Азия центровете за измами употребяват усъвършенствани схеми, в това число измами, при които хора са подмамени във подправени сантиментални връзки, с цел да излъгват жертвите в индустриален мащаб, в това число в Обединеното кралство. Тези, които правят измамите, постоянно са трафикирани непознати жители, хванати в капан и принудени да правят онлайн измами под опасност от изтезания. "

История от Srinivasan Рамани, оповестен в The Hindu при започване на ноември, под заглавието „ Как работят центровете за измами в Югоизточна Азия? “ описа за бягството на към 500 индийски жители от „ центъра за киберпрестъпност KK Park в град Myawaddy, покрай границата с Тайланд в югоизточен Мианмар “. Този център неотдавна беше високомерен от мианмарската хунта.

В публикацията се изяснява, че „ Глобалната самодейност против транснационалната проведена престъпност (GI-TOC) назовава тези уреди за „ комбинирана престъпност “ индустриални комплекси, сходни на затвори, където хиляди са трафикирани и принудени да правят киберпрестъпления. Трафикантите разгласяват подправени разгласи за работа за високоплатени ИТ и маркетингови функции. Жертви от Индия, Китай, Виетнам, Филипините, Африка и Латинска Америка се придвижват със самолети до районни центрове като Банкок, след което се придвижват по суша и се трансферират през границите в Мианмар или Камбоджа, откакто влязат в комплекси, предпазени от високи стени и въоръжена защита, им се споделя, че са били „ продадени “ и би трябвало да работят, с цел да изплатят „ задълженията си “, издържайки 12-часови работни дни онлайн. Тези, които отхвърлят, се сблъскват с изтезания — побои, електрически удари, апетит и изолираност. “

Тези действия имат голям брой жертви и в двата края. Между тях има извънредно мощни и печеливши компании за обществени медии, където, както написа Сара Уин-Уилямс, господстват. Мета твърди, че прави всичко допустимо, с цел да ограничи тази чума. Но това е погрешно. Може да вземем за пример да отстрани всички финансови реклами, за които не може да се потвърди, че са законни с доста висока степен на възможност. Това е, което човек би очаквал от всеки издател. Но платформите за обществени медии са разнообразни. Беше направено невероятно да бъдат държани виновни за наличието, което се появява на уеб страниците. Това би било „ цензура “.

И въпреки всичко Meta и други сходни платформи са помощници на машинация. Цената за това не е единствено за заблудените и принудените. Те включват увреждане на доверието. Масовото разпространяване на това, което сигурно ще стане все по-убедително, е смъртоносно за финансовата система.

Лекът е явен. На хората би трябвало да бъде разрешено да съдят платформите за цялостно възобновяване на разноските, които са създали от това, че са били излъгани от оповестените от тях лъжливи реклами. След като това бъде позволено, тези реклами сигурно ще изчезнат. Измамата е закононарушение. Печалбата от измами би трябвало да бъде спряна.

Следвайте Мартин Улф с  и на