Алгоритъмът от Хилке Шелман — защо AI наистина идва за вашата работа
Алармистите на AI предупреждават, че машинното обучение в крайна сметка ще унищожи човечеството — или най-малкото ще направи хората излишни. Но какво ще стане, ако истинското безпокойство е по-обикновено – че инструментите за изкуствен интелект просто вършат лоша работа?
Това почувства Хилке Шелман, репортер и професор в Нюйоркския университет, след като прекара пет години в проучване на инструменти, които са сега широко се използва от работодателите при наемане, уволнение и управление. Ботовете все повече диктуват кои обяви за работа виждаме онлайн, кои автобиографии четат специалистите по набиране на персонал, кои кандидати стигат до последно интервю и кои служители получават повишение, бонус или известие за съкращаване. Но в този свят, където алгоритмите „определят кои сме, къде превъзхождаме и къде се борим . . . ами ако алгоритмите се объркат?“ пита Шелман в „Алгоритъмът“, разказ за нейните открития.
Наемащите персонал и мениджърите имат много причини да се обърнат към AI: да пресяват невероятно големи купчини автобиографии и да запълват по-бързо позиции; да им помогне да открият талантливи хора, дори когато идват от нетипичен произход; да взема по-справедливи решения, премахвайки човешките пристрастия; или за проследяване на ефективността и идентифициране на проблемния персонал.
Но опитът на Шелман подсказва, че много от системите на пазара могат да причинят повече вреда, отколкото полза. Например, тя тества софтуер за видео интервюиране, който я намира като близка за ролята, дори когато заменя оригиналните си, правдоподобни отговори с повторената фраза „Обичам работата в екип“ или говори изцяло на немски.
Тя разговаря с експерти, които са одитирали инструментите за скрининг на CV за потенциални пристрастия – и са установили, че те могат да филтрират кандидати от определени пощенски кодове, рецепта за расова дискриминация; да се предпочитат определени националности; или да гледате на харесването на доминираните от мъже занимания като бейзбола като на маркер за успех. След това има случаи на хора с високи резултати, избрани за съкращения или автоматично отстранени от надпреварата за работни места, за които са били квалифицирани, само защото са се справили зле в очевидно неуместни онлайн игри, използвани за оценяване на кандидати.
След като е изиграл някои, Шелман е скептичен, че високоскоростните игри за съпоставяне на шаблони или личностни тестове ще помогнат на специалистите по набиране на персонал да идентифицират хората, които е най-вероятно да се провалят или да превъзхождат дадена роля. Игрите биха били дори още по-трудни за всеки, който е бил разсеян от деца или е имал увреждане, което софтуерът не е разпознал.
Но много от проблемите, които Шелман открива, не са свързани с използването на AI. Разработчиците не могат да проектират добри тестове за набиране на персонал, ако те не разбират защо някои служители работят по-добре от други. Ако една система е предназначена предимно за бързо запълване на свободно място, тя няма да избере най-добрия кандидат.
Шелман открива, че освен ако разработчиците не се намесят, платформите за работа предоставят повече реклами на кандидатите (често мъже), които са най-агресивни в отговорите на специалистите по подбор и кандидатстване за старши позиции, независимо от опита. Проблеми възникват също така, защото мениджърите разчитат сляпо на инструменти, които са предназначени само за информиране на човешката преценка - понякога с погрешното убеждение, че ще ги предпазят от правно оспорване.
Машинното обучение може да засили съществуващите пристрастия по трудни начини за забелязване, дори когато разработчиците са нащрек. Алгоритмите идентифицират модели сред хора, които са се справяли добре или зле в миналото, без никакъв капацитет да разберат дали характеристиките, които улавят, са значими. И когато алгоритмите се объркат - понякога в голям мащаб - може да бъде невероятно трудно за хората да разберат защо, да потърсят обезщетение или дори да намерят човек, с когото да говорят.
Вероятно най-полезният раздел от книгата на Шелман е приложение, което дава съвети за търсещите работа (използвайте точки и избягвайте амперсанд в CV-то си, за да го направите машинно четимо) и хората, чийто работодател ги наблюдава (поддържайте имейлите си оптимистични). Но тя също така има предложения за регулаторите как да се гарантира, че инструментите за изкуствен интелект са тествани, преди да излязат на пазара.
Като минимум законодателите биха могли да наложат прозрачност на данните, използвани за обучение на модели на изкуствен интелект, и технически доклади за тяхната ефикасност, твърди тя. В идеалния случай правителствените агенции сами биха проверили инструментите, използвани в чувствителни области като политика, кредитен рейтинг или наблюдение на работното място.
При отсъствието на такава реформа, книгата на Шелман е предупредителна история за всеки, който е смятал, че изкуственият интелект ще премахне човешките пристрастия при наемането на работа — и основен наръчник за търсещите работа.
Алгоритъмът: Как изкуственият интелект може да открадне вашата кариера и да открадне бъдещето виот Хилке Шелман Хърст £22/Hachette Books $30, 336 страници
Присъединете се към нашата онлайн група за книги във Facebook на и се абонирайте за нашите подкаст, където и да слушате
