Защо отговорността е все по-неуловимо начинание
Представете си — или, ако летите често и нямате голям късмет, запомнете — този сценарий. Вашият полет е свръхрезервиран и за да се освободи място, пътниците се отстраняват. Тези с най-малко летящи мили се извеждат първи. Можете да се оплачете, разбира се, но лицето, прилагащо политиката, не я е задало - и не може да я промени. Дори ако случайно имате номера на мобилния телефон на главния изпълнителен директор на авиокомпанията, това не е нейна вина: това е политика на компанията.
Това е мисловният експеримент, който Дан Дейвис използва в своята забавна нова книга, Машината за безотговорност, за да илюстрира това, което той нарича „мивката на отчетността“: правилници, процедури и в някои случаи цели институции в съвременния живот които по същество премахнаха личната отговорност за вземане на решения. Стюардесата, която ви придружава от самолета, не носи отговорност, нито техният мениджър. В края на краищата вие сте се регистрирали за тази възможност, когато сте резервирали билета си.
Въпреки че „мивката на отчетността“ е нова монета, други мислители говорят за подобни проблеми. Изследователите на FAT ML (справедливост, отчетност и прозрачност в машинното обучение) говорят както за „отговорност“ (да имате ясна представа към кого да се обърнете, когато алгоритъм изплюе решение, което не харесвате), така и за „обяснимост“ (този човек трябва да бъде в състояние да обясни защо е взето решението на достъпен език) поради тази причина. Други се притесняват, че машинното обучение създава „пропаст в отговорността“, в която хората, вземащи решения, вече не трябва да отчитат или дори да разбират решенията, които прилагат.
Има по-лоши неща в живота от забавено пътуване. По-сериозен пример за поглъщане на отговорност може да бъде скандалът Windrush, при който десетки хиляди британци, родени в Западна Индия, претърпяха малтретиране, като много от тях загубиха работата и домовете си, а някои неправомерно бяха депортирани от Обединеното кралство. Чия беше вината? Архитектите на политиката за враждебна околна среда, която премести границите на граничните разпоредби на страната до всяко работно място, наемодател и обществена услуга? Бюрократите, които унищожиха картите за кацане, които може да са служили като алтернативни форми на документ за самоличност? Множеството правителства, които законодателно ограничават правото на гражданите на Британската империя да се движат свободно в нея? Единственият човек, който подаде оставка заради несправедливостта, беше Амбър Ръд, чието основно прегрешение беше, че беше министър на вътрешните работи, когато скандалът влезе в новините, вместо да прилага някоя от обидните политики, и тя скоро се върна на висок пост след кратко отсъствие, управлявайки друг голям отдел. Подобен приемник за отчетност вече работи в схемата за компенсации на Windrush, която е засегната от забавяния.
Но не всички приемници за отчетност са лоши. Процесът на наемане, който позволява на моя приятел от главен изпълнителен директор да отсее кандидатурата на моя некомпетентен племенник, без да ме обиди, също е поглъщане на отговорност. Ясните правила, определени в правилници, процедури и алгоритми, могат да доведат до остри несправедливости. Но те поне са измерими и откриваеми, за разлика от внезапните преценки, които всички правим всеки ден. Насоките за наказания за наказателни дела са отчасти начин за премахване на личните предразсъдъци и произволни несправедливости от съдебния процес, въпреки че те могат и внасят собствени произволни несправедливости.
Поглътителите на отчетността са страничен продукт от живота в едно по-сложно общество и въвеждането на машинно обучение и алгоритмично вземане на решения в обществената политика ще създаде много повече от тях. Съдия, чиято автономия в почти всички общества е силно ограничена от насоки за налагане на присъди и задължителни граници, все пак може да остане крайният решаващ, дори ако е подпомаган от алгоритмични модели. Но кой е виновен, ако или когато тези системи се объркат или се изкривят силно в една или друга посока?
Един добър пример за ползите и трудностите може да се види при използването на софтуер за лицево разпознаване. Въпреки че сега тази технология почти винаги работи по-добре от човешката преценка, все още е по-вероятно да идентифицира погрешно хора с по-тъмен цвят на кожата и жени. Кой е виновен, ако това доведе до съдебна грешка? И кой трябва да отговаря за това софтуерът да е по-добър утре, отколкото е днес?
Но обикновен човек, неограничен от книга с правила, също ще направи ужасно много грешки. И бих предпочел да се подложа на случайните несправедливости на обикновената книга с правила – което на практика е всичко, което е един алгоритъм – отколкото на неограничено човешко вземане на решения. Но за лидерите, независимо дали на компании или държави, обяснението на това, което се е объркало при машинно подпомаганото вземане на решения, ще означава да могат да говорят свободно за това какво означават потъвания в отчетността, защо ги имаме и дали трябва да се отървем от тях.
