„Не вярвайте на очите си“: AI генерира скок в измами с разходи

Бизнесът все по-често е излъган от чиновници, употребяващи изкуствен интелект за вековна машинация: подправяне на разписки.

Според стартирането на нови модели за генериране на изображения от най-хубавите AI групи като OpenAI и Гугъл през последните месеци провокира приток на генерирани от AI разписки, изпратени вътрешно в фирмите до водещи разходни софтуерни платформи.

Софтуерният снабдител AppZen сподели, че подправените квитанции за AI съставляват към 14 % от подправените документи, подадени през септември, спрямо нито един предходната година. Fintech групата Ramp съобщи, че нейният нов програмен продукт е маркирал повече от $1 милион в лъжливи фактури в границите на 90 дни.

Около 30 % от финансовите експерти в Съединени американски щати и Обединеното кралство, интервюирани от платформата за ръководство на разноските Medius, оповестяват, че са забелязали нарастване на подправените разписки след стартирането на GPT-4o на OpenAI предходната година.

„ Тези разписки станаха толкоз положителни, че споделяме на нашите клиенти „ не вярвайте на очите си “, сподели Крис Джуно, старши вицепрезидент и началник на продуктовия маркетинг за SAP Concur, една от водещите международни платформи за разноски, която обработва повече от 80 милиона инспекции за сходство месечно благодарение на AI.

Няколко платформи приписват забележителен скок в броя на генерираните от AI разписки след стартирането на OpenAI Подобреният модел за генериране на изображения на GPT-4o през март.

OpenAI сподели на Financial Times, че подхваща дейности, когато разпоредбите му са нарушени и изображенията му съдържат метаданни, които алармират, че са основани от ChatGPT.

Създаването на подправени документи преди изискваше умения за редактиране на фотоси или заплащане за такива услуги посредством онлайн снабдители. Появата на безвъзмезден и наличен програмен продукт за генериране на изображения улесни чиновниците бързо да фалшифицират разписки за секунди, като напишат елементарни текстови указания на чатботове.

Няколко разписки, показани на FT от платформи за ръководство на разноските, демонстрираха реалистичния темперамент на изображенията, които включват бръчки в хартията, детайлна идентификация, която подхожда на менютата в действителния живот, и подписи.

„ Това не е бъдеща заплаха; това към този момент се случва сега единствено дребен % от несъответстващите разписки са генерирани от AI, това ще пораства единствено “, сподели Себастиен Маршон, основен изпълнителен шеф на Rydoo, платформа за ръководство на разноските.

Увеличаването на тези по-реалистични копия накара фирмите да се извърнат към AI, с цел да оказват помощ за откриването на подправени разписки, защото множеството са прекомерно безапелационни, с цел да бъдат открити от рецензенти.

Софтуерът работи, като сканира разписки, с цел да ревизира метаданните на изображението, с цел да открие дали платформа за изкуствен интелект го е основала. Това обаче може елементарно да бъде отстранено, като потребителите създадат фотография или екранна фотография на картината.

За да се бори с това, той взема поради и друга контекстуална информация, като изследва елементи като повторения в имената и часовете на сървърите и по-широка информация за пътуването на служителя.

„ Технологиите могат да преглеждат всичко с високи елементи на фокус и внимание, че хората, след избран интервал от време нещата падат през пукнатините, те са хора “, добави Калвин Лий, старши шеф продуктов мениджмънт в Ramp.

Изследвания. от SAP през юли откри, че съвсем 70 % от основните финансови шефове имат вяра, че чиновниците им употребяват AI, с цел да се опитат да фалшифицират пътни разноски или разписки, като към 10 % прибавят, че са сигурни, че това се е случило в тяхната компания.

Мейсън Уайлдър, шеф по проучванията в Асоциацията на сертифицираните откриватели на измами, сподели, че генерираните от AI подправени разписки са „ забележителен проблем за организациите “.

Той добави: „ Няма нулева преграда за влизане на хората, с цел да създадат това. Не се нуждаете от какъвто и да е тип софтуерни умения или качества, каквито може би са ви били нужни преди пет години благодарение на Photoshop. “

Показване на информация за видеоклипа Показване на изложение на видеоклипа Описание на видеоклипаПрепис

Служителите употребяват принадлежности за изкуствен интелект, с цел да фалшифицират разходни бележки, като разходни платформи се сблъсква с повишаване на безапелационните, само че подправени изображения. Кристина Кридъл от FT изяснява.

Можете ли да различите тези разписки от същински? Това са действителни образци за разписки, генерирани от изкуствен интелект, които са били подадени от чиновници по време на работа, за подаване на разноски, и е съвсем невероятно да се разграничат от законните. Това е голям проблем за системи като Concur и Appzen, които оказват помощ на доста организации при обработката на техните разноски. И нямате потребност от Photoshop. Дори не се нуждаете от принтер. И в случай че се вгледате доста деликатно в тези образци, ще видите детайлите, които са там: гънки по хартията, малко сянка върху маса, имена, адреси, фирмена марка и даже леке ​​от кафе. Много системи за разход разчитат на фотоси на разписки, с цел да ревизират дали разходът е действителен. Ако изтеглите изображение като това непосредствено от ChatGPT, то има някаква информация във файла, наименуван метаданни, които системите могат да употребяват, с цел да открият, че изображението е генерирано от AI. Служителите обаче са станали доста разбираеми и са научили, че в случай че извършите екранна фотография на изображението, това отстранява метаданните и може да бъде доста по-трудно за разкриване единствено като извършите екранна фотография на това изображение, всеки може елементарно да отстрани метаданните. Така че в този момент платформите за разноски се пробват да отвърнат на удара посредством триангулиране на елементи, които имат в изображението и външно, с цел да ревизират в действителност дали това е същинско, като името на сервитьора, по кое време е сервирано ястието и по-широка информация за пътуването на служителя. Малко евентуално е в миналото да има безукорен метод за разкриване на подправени разписки, тъй че може би ще се върнем към дните, когато публикувахме своите хартиени бележки на работодателя. Как чиновниците бъркат в разноските си с генерирани от изкуствен интелект разписки © Произведено от Том Ханен