Нуждаем се от конституция на AI, която защитава нашите граждански права
Писателят е съосновател и главен учен на Dionysus Health
Днес ви пропуснаха за работа. Бяхте отказан заем. Вие или може би вашето дете сте били отхвърлени от топ университет. И никога не сте знаели, че се е случило. Всеки ден, в някои от най-дълбоките, най-конституционно защитените части от нашия живот, алгоритмите вземат решения, които никой човек не би могъл да оправдае лице в лице.
Под натиск компаниите обсъждат етичните рамки и създават консултативни съвети. Не се нуждаем от манифест за изкуствен интелект - имаме нужда от конституция. Тъй като се използва днес, AI е просто несъвместим с гражданските права.
Като главен учен на една от първите компании, които използват AI при наемане, аз изградих системата, която ви подмина за тази работа. Огромните работодатели, които бяха наши клиенти, не трябваше да чакат вашата кандидатура за работа; ние всъщност кандидатствахме за вас, независимо дали го знаехте или не. Но когато AI реши кой да бъде нает, никога няма да разберете защо не сте били вие. Човешко същество, което ви пита за възрастта, вашата политика или семейно планиране по време на процеса на наемане, би било законно нарушение на вашите граждански права. AI да прави същото без ваше знание е също толкова грешно, но напълно скрито от погледа.
Освен наемането, някои работодатели си играят със системи за автоматично освобождаване на нископроизводителни работници. Но защо да уволнявате хора, ако можете да им „помогнете“ да изберат да напуснат? Други компании разработват базирани на машинно обучение оценки на личността, които отсяват кандидатите, за които се предвижда да агитират за увеличаване на заплатите, да подкрепят синдикатите или да демонстрират склонност към скачане на работа.
Заемите стимулират икономическата мобилност в Америка, въпреки че са били исторически мощен инструмент за дискриминация. Работил съм по множество проекти, за да намаля това пристрастие с помощта на AI. Това, което научих обаче, е, че дори ако даден алгоритъм работи точно както е предвидено, той все още е предназначен единствено за оптимизиране на финансовата възвръщаемост на кредитора, който е платил за него. Процесът на кандидатстване за заем вече е непроницаем за повечето и сега вашите надежди за собственост на жилище или финансиране на малък бизнес умират след изчисление от 50 милисекунди.
Всяка седмица в здравеопазването и биотехнологиите се случват пробиви, управлявани от AI. В здравеопазването е предназначено да бъде безпристрастно, но ако сте извън границите, тогава този удивителен нов диагностичен инструмент може да не ви диагностицира точно. Как бихте разбрали дали собственият алгоритъм на някаква неизвестна компания е бил обучен върху пациенти като вас? И ако всички лекари във вашия регион използват един и същ инструмент, няма къде да отидете за второ мнение. Когато лекар, работещ с изкуствен интелект, ви каже, че просто изпадате в истерия, застрахователната компания, работеща с изкуствен интелект, едва ли ще се съгласи.
По закон правото на адвокат и съдебен контрол са конституционна гаранция в САЩ и установено гражданско право в голяма част от света. Това са основите на вашите граждански свободи. Когато алгоритмите действат като експертни свидетели, свидетелстващи срещу вас, но неподлежащи на кръстосан разпит, тези права не просто се нарушават — те престават да съществуват.
Хората не са перфектни. Нито обучението по етика за ИИ инженерите, нито законодателството от ужасно неинформирани политици могат да променят тази проста истина. Не е нужно да приемам, че главните изпълнителни директори на Big Tech са лоши актьори или че големите компании са злонамерени, за да разберат, че това, което е в техен личен интерес, не винаги е в мой. Създателите на Конституцията на САЩ разпознаха тази проста истина и се опитаха да използват човешката природа за по-добро. Конституцията не просто приема, че хората винаги ще действат за това по-голямо благо. Вместо това той дефинира динамичен механизъм - личен интерес и баланс на силите - който ще наложи компромис и добро управление. Неговата визия за третиране на хората като истински актьори, а не като по-добри ангели създаде една от най-добрите рамки за управление в историята.
Представете си, че ви беше предложен тест за следродилна депресия, базиран на AI. Моята компания разработи точно този тест и той има силата да промени живота ви, но може да изберете да не го използвате от страх, че можем да продадем резултатите на брокери на данни или политици активисти. Имате право нашият AI да действа единствено за вашето здраве. Поради тази причина основах независима организация с нестопанска цел, The Human Trust, която съхранява всички данни и управлява всички алгоритми с единствена фидуциарна отговорност към вас. Никоя майка не трябва да избира между животоспасяващ медицински тест и гражданските си права.
ИИ може да прави чудесни неща. Но гражданските права не могат да съществуват в свят на скрити изчисления. Точно както при адвокат или лекар, трябва да имаме ИИ, който да действа в наш личен интерес. AI се нуждае от конституция – или по-точно, имаме нужда от конституция, която определя достъпа до изкуствен интелект, действащ единствено от наше име, като гражданско право.
