Тъй като корпоративна Америка се ориентира към AI, потребители, отхвърлени за заеми, работа
Ню Йорк – Рейчъл С живее в пешеходен квартал в Бруклин, Ню Йорк. Повечето дни тя може да живее комфортно без кола. Тя често работи дистанционно, но от време на време трябва да отиде в офиса. Това е мястото, където нейната ситуация става малко предизвикателна. Работното й място не е лесно достъпно с обществен транспорт.
Тъй като не й се налага да шофира често, тя кандидатства за платформата за споделяне на автомобили Zipcar, за да задоволи случайните си нужди. Процесът на кандидатстване е доста бърз, което позволява на потребителите да тръгват на път, използвайки неговия автопарк сравнително бързо.
За съжаление случаят с Рейчъл не беше такъв. Веднага щом натисна бутона за изпращане, софтуерът за изкуствен интелект, използван от компанията, я счете за недопустима. Озадачена от резултата, Рейчъл се свърза с екипа за обслужване на клиенти на компанията.
В крайна сметка тя няма недостатъци, които да подсказват, че е безотговорен шофьор. Тя няма точки в книжката си. Единственият недостатък беше глобата за движение, която получи, когато беше на седемнадесет години, и това цитиране беше изплатено преди години.
Въпреки че впоследствие цитирането на трафика е поправено, сега, когато е на тридесет години, тя все още се справя с последствията.
Тя разговаря с екипа за обслужване на клиенти на Zipcar без резултат. Въпреки иначе чистото шофьорско досие, тя беше отхвърлена. Тя твърди, че компанията е казала, че няма право на защита и че решението не може да бъде презаписано от човек.
„Нямаше път или процес, който да се хареса на човешко същество и въпреки че е разумно, единственият начин да опитате отново би бил да кандидатствате отново“, за което има невъзвръщаема такса за кандидатстване, каза Рейчъл пред Ал Джазира, припомняйки си разговора си с компания.
Zipcar не отговори на искането на Al Jazeera за коментар.
Рейчъл е един от многото потребители, на които системите с изкуствен интелект отказаха заеми, членства и дори възможности за работа без никаква защита или политика за обжалване, тъй като компаниите продължават да разчитат на изкуствения интелект, за да вземат ключови решения, които оказват влияние върху ежедневието.
Това включва D, които наскоро са загубили работата си.
Като условие за интервюто D поиска да използваме само техните инициали от уважение към тяхната поверителност. D търсеше религиозно нова възможност, но безуспешно.
След месеци на търсене, D най-накрая намери работа, но имаше един огромен проблем — времето.
Минаха още няколко седмици преди D да започне новата работа и няколко седмици след това D получи първата заплата.
За да получи допълнителна помощ, D кандидатства за личен заем на множество платформи в опит да заобиколи хищническите заеми до заплата, само за да се справя междувременно.
D беше отхвърлен за всички заеми, за които са кандидатствали. Въпреки че D не потвърди кои точно фирми, секторът има множество опции, включително Upstart, Upgrade, SoFi, Best Egg и Happy Money, наред с други.
D казва, че когато са се обадили на компаниите след подаване на онлайн заявление, никой не е могъл да помогне, нито е имало обжалвания.
Когато D беше в началото на двадесетте, те имаха кредитна карта, с която не успяха да плащат сметки. Това беше единствената им кредитна карта. Те също наемат апартамент и разчитат на градския транспорт.
Според онлайн кредитори, управлявани от AI, липсата им на кредитна история и обезпечение ги прави недопустими за заем, въпреки че са изплатили дълга си преди шест години.
D не потвърди кои конкретни компании са опитали за заем. Al Jazeera се обърна към всяка от тези компании за коментар относно техните процеси – само две отговориха – Upgrade и Upstart – отговориха до момента на публикуване.
„Има случаи, в които сме в състояние да променим решението за заема въз основа на допълнителна информация, т.е. доказателство за други източници на доходи, които не са били предоставени в първоначалното заявление, но когато става дума за „човек присъда, има много място за лични пристрастия, което е нещо, което регулаторите и лидерите в индустрията са работили усилено, за да премахнат“, каза говорител на компанията Upgrade в имейл до Al Jazeera. „Технологията донесе обективност и справедливост в процеса на отпускане на заеми, като решенията вече се вземат въз основа на истинските заслуги на кандидата.“
Историческите пристрастия са засилени
Но не е толкова просто. Съществуващите исторически пристрастия често се усилват със съвременните технологии. Според разследване от 2021 г. на изданието The Markup чернокожите американци са с 80 процента по-склонни да бъдат автоматично отхвърлени от агенции за отпускане на заеми, отколкото техните бели колеги.
„ИИ е просто модел, който се обучава на исторически данни“, каза Наим Сидики, старши съветник в SAS, глобална компания за ИИ и данни, където съветва банките относно кредитния риск.
Това се подхранва от дългата история на дискриминационни практики в банкирането спрямо цветнокожите общности в Съединените щати.
„Ако вземете предубедени данни, всичко, което AI или който и да е модел ще направи, е по същество да повтори това, което сте му дали“, каза Сидики.
„Системата е проектирана да взема възможно най-много решения с възможно най-малко пристрастия и човешка преценка, за да направи решението обективно. Това е иронията на ситуацията… разбира се, има и такива, които се провалят“, добави Сидики.
Не е само въз основа на раса. Компании като Apple и Goldman Sachs дори са обвинявани в системно предоставяне на по-ниски кредитни лимити на жени, отколкото на мъже.
Тези притеснения също са свързани с поколенията. Siddiqi казва, че подобни откази също така в голяма степен ограничават социалната мобилност сред по-младите поколения, като по-младите милениали (тези, родени между 1981 и 1996 г.) и Gen Z (тези, родени между 1997 и 2012 г.), във всички демографски групи.
Това е така, защото стандартното прозвище за силно финансово здраве – включително кредитни карти, домове и коли – при оценката на нечия финансова отговорност става все по-малко и по-малко уместно. Само около половината от поколението Z имат кредитни карти. Това е спад от всички предишни поколения.
Поколението Z също е по-малко вероятно да имат обезпечение като кола, която да заложат, когато кандидатстват за заем. Според скорошно проучване на McKinsey възрастовата група е по-малко вероятно да избере да получи шофьорска книжка в сравнение с предишните поколения. Само една четвърт от 16-годишните и 45 процента от 17-годишните притежават шофьорска книжка. Това е спад съответно с 18 процента и 17 процента.
Бюрото за финансова защита на потребителите засили своите предпазни мерки за потребителите. През септември агенцията обяви, че агенциите за кредитиране вече ще трябва да обяснят мотивите зад отказа на заем.
„Кредиторите често захранват тези сложни алгоритми с големи набори от данни, понякога включително данни, които могат да бъдат събрани от наблюдението на потребителите. В резултат на това на потребителя може да бъде отказан кредит по причини, които може да не смятат за особено свързани с финансите си“, се казва в съобщение на агенцията.
Агенцията обаче не обръща внимание на липсата на човешки процес на обжалване, с който D твърди, че се е занимавал лично.
D казаха, че е трябвало да отложат плащането на някои сметки, което ще навреди на дългосрочното им финансово състояние и може да повлияе на способността им да получат заем с разумни лихвени проценти, ако въобще в бъдеще.
„Пропуснати от възможностите“
Siddiqi предлага заемодателите да започнат да обмислят алтернативни данни, когато вземат решение за заеми, които могат да включват плащания за наем и комунални услуги и дори поведение в социалните медии, както и модели на харчене.
В социалните медии чекирането на чужденци е ключов индикатор.
„Ако имате повече пари, сте склонни да пътувате повече или ако следвате страници като Bloomberg, Financial Times и Reuters, е по-вероятно да бъдете финансово отговорен“, добавя Siddiqi.
Проблемът с автоматичното отхвърляне не е проблем само при молбите за заем и членство, но и при възможностите за работа. Потребителите на социални медийни платформи като Reddit публикуват имейли за отказ, които получават веднага след като подадат заявление.
„Отговарям на всички изисквания и уцелих всички ключови думи и в рамките на една минута след като подадох молбата си, получих както потвърждението на кандидатурата, така и писмото за отказ“, каза Матю Мълън, авторът на оригиналния плакат, пред Al Jazeera.
Базираният в Кънектикът видео редактор казва, че това е първото за него. Експерти като Lakia Elam, ръководител на консултантската фирма за човешки ресурси Magnificent Differences Consulting, казват, че между системите за проследяване на кандидати и други инструменти, управлявани от AI, това все повече се превръща в по-голяма тема и все по-проблематично.
Системите за проследяване на кандидати често пренебрегват преносими умения, които може не винаги да съответстват на хартия с набора от умения на кандидата.
„Често пъти кандидатите, които имат нелинеен кариерен път, много от които идват от различен произход, са изоставени от възможностите“, каза Елам пред Al Jazeera.
„Продължавам да казвам на организациите, че трябва да запазим човешкото отношение в този процес“, каза Елам.
Но все повече организации разчитат повече на програми като ATS и ChatGPT. Елам твърди, че това пропуска много достойни кандидати за работа, включително самата нея.
„Ако днес трябваше да мина през AI система, гарантирам, че ще бъда отхвърлен“, каза Елам.
Тя има GED — еквивалент на диплома за средно образование — за разлика от четиригодишна степен.
„Те виждат GED в автобиографията ми и казват, че трябва да стоим далеч от това“, добави Елам.
Отчасти това е причината американците да не искат AI да участва в процеса на наемане. Според доклад от април 2023 г. на Pew Research, 41 процента от американците смятат, че AI не трябва да се използва за преглед на кандидатури за работа.
„Това е част от по-голям разговор за загубата на пътища към надлежен процес“, каза Рейчъл.
