Алгоритъмът от Хилке Шелман — защо AI наистина идва за вашата работа

Алармистите на AI предизвестяват, че машинното образование в последна сметка ще унищожи човечеството — или най-малкото ще направи хората непотребни. Но какво ще стане, в случай че същинското безпокойствие е по-обикновено – че инструментите за изкуствен интелект просто правят неприятна работа?

Това почувства Хилке Шелман, кореспондент и професор в Нюйоркския университет, откакто прекара пет години в изследване на принадлежности, които са в този момент необятно се употребява от работодателите при наемане, уволняване и ръководство. Ботовете от ден на ден диктуват кои разгласи за работа виждаме онлайн, кои автобиографии четат експертите по набиране на личен състав, кои претенденти стигат до последно изявление и кои чиновници получават покачване, бонус или уведомление за редуциране. Но в този свят, където логаритмите „ дефинират кои сме, къде превъзхождаме и къде се борим ... ами в случай че логаритмите се объркат? “ пита Шелман в „ Алгоритъмът “, роман за нейните открития.

Наемащите личен състав и мениджърите имат доста аргументи да се извърнат към AI: да пресяват необикновено огромни купчини автобиографии и да запълват по-бързо позиции; да им помогне да открият надарени хора, даже когато идват от нехарактерен произход; да взема по-справедливи решения, премахвайки човешките пристрастия; или за следене на успеваемостта и идентифициране на проблематичния личен състав.

Инструментите за инспекция на CV за евентуални пристрастия могат да филтрират претенденти от избрани пощенски кодове, рецепта за расова дискриминация

Но опитът на Шелман подсказва, че доста от системите на пазара могат да причинят повече щета, в сравнение с изгода. Например, тя тества програмен продукт за видео интервюиране, който я намира като близка за ролята, даже когато заменя истинските си, правдоподобни отговори с повторената фраза „ Обичам работата в екип “ или приказва напълно на немски.

Тя беседва с специалисти, които са одитирали инструментите за скрининг на CV за евентуални пристрастия – и са открили, че те могат да филтрират претенденти от избрани пощенски кодове, рецепта за расова дискриминация; да се избират избрани националности; или да гледате на харесването на доминираните от мъже занимания като бейзбола като на маркер за триумф. След това има случаи на хора с високи резултати, определени за съкращения или автоматизирано отстранени от конкуренцията за работни места, за които са били квалифицирани, единствено тъй като са се справили зле в явно неуместни онлайн игри, употребявани за оценяване на претенденти.

След като е изиграл някои, Шелман е песимистичен, че високоскоростните игри за сравнение на шаблони или личностни проби ще оказват помощ на експертите по набиране на личен състав да разпознават хората, които е най-вероятно да се провалят или да превъзхождат дадена роля. Игрите биха били даже още по-трудни за всеки, който е бил заплеснат от деца или е имал увреждане, което софтуерът не е разпознал.

Но доста от проблемите, които Шелман открива, не са свързани с потреблението на AI. Разработчиците не могат да проектират положителни проби за набиране на личен състав, в случай че те не схващат за какво някои чиновници работят по-добре от други. Ако една система е предопределена най-вече за бързо запълване на свободно място, тя няма да избере най-хубавия претендент.

Шелман открива, че в случай че разработчиците не се намесят, платформите за работа дават повече реклами на претендентите (често мъже), които са най-агресивни в отговорите на експертите по асортимент и кандидатстване за старши позиции, без значение от опита. Проблеми пораждат също по този начин, тъй като мениджърите разчитат сляпо на принадлежности, които са предопределени единствено за информиране на човешката преценка - от време на време с неправилното разбиране, че ще ги предпазят от правно оборване.

Машинното образование може да ускори съществуващите пристрастия по сложни способи за забелязване, даже когато разработчиците са нащрек. Алгоритмите разпознават модели измежду хора, които са се справяли добре или зле в предишното, без никакъв потенциал да схванат дали характерностите, които улавят, са значими. И когато логаритмите се объркат - от време на време в огромен мащаб - може да бъде необикновено мъчно за хората да схванат за какво, да потърсят обезщетение или даже да намерят човек, с който да приказват.

Книгата на Шелман е предупредителна история за всеки, който е считал, че изкуственият разсъдък ще отстрани човешките пристрастия при наемането на работа

Вероятно най-полезният раздел от книгата на Шелман е приложение, което дава препоръки за търсещите работа (използвайте точки и избягвайте амперсанд в CV-то си, с цел да го извършите машинно четимо) и хората, чийто шеф ги следи (поддържайте имейлите си оптимистични). Но тя също по този начин има оферти за регулаторите по какъв начин да се подсигурява, че инструментите за изкуствен интелект са тествани, преди да излязат на пазара.

Като най-малко законодателите биха могли да наложат бистрота на данните, употребявани за образование на модели на изкуствен интелект, и механически отчети за тяхната резултатност, твърди тя. В идеалния случай държавните организации сами биха ревизирали инструментите, употребявани в чувствителни области като политика, кредитен рейтинг или наблюдаване на работното място.

При отсъствието на такава промяна, книгата на Шелман е предупредителна история за всеки, който е считал, че изкуственият разсъдък ще отстрани човешките пристрастия при наемането на работа — и главен справочник за търсещите работа.

Алгоритъмът: Как изкуственият разсъдък може да открадне вашата кариера и да открадне бъдещето ви от Хилке Шелман Хърст £22/Hachette Books $30, 336 страници

Присъединете се към нашата онлайн група за книги във Фейсбук на и се абонирайте за нашите подкаст, където и да слушате