Колорадо е първият щат, който се опитва да регулира скритата роля на изкуствения интелект в американския живот
ДЕНВЪР (AP) — Първите опити за регулиране на програми с изкуствен интелект, които играят скрита роля при наемането, жилищата и медицинските решения за милиони от американците са изправени пред натиск от всички страни и се блъскат в държавните домове в цялата страна.
Само един от седемте законопроекта има за цел да предотврати склонността на ИИ да дискриминира при вземането на произтичащи решения – включително кой да бъде нает, пари за дом или медицински грижи — премина. Губернаторът на Колорадо Джаред Полис колебливо подписа законопроекта в петък.
Законът на Колорадо и тези, които се провалиха във Вашингтон, Кънектикът и другаде, бяха изправени пред битки на много фронтове, включително между групи за граждански права и технологичната индустрия, а законодателите бяха предпазливи за навлизане в технология, която малцина все още разбират, и управители, притеснени да бъдат странните щати и плашещите стартиращи фирми с ИИ.
Полис подписа законопроекта на Колорадо „с резерви“, като каза в изявление, че е предпазлив от регулации AI иновация. Законопроектът има двугодишен срок и може да бъде променен, преди да стане закон.
„Насърчавам (законодателите) значително да подобрят това, преди да влезе в сила“, написа Полис.
Предложението на Колорадо, заедно с шест допълнителни законопроекта, са сложни, но като цяло ще изискват от компаниите да оценят риск от дискриминация от техния AI и информира клиентите, когато AI е използван, за да им помогне да вземат последващо решение за тях.
Законопроектите са отделни от повече от 400 законопроекта, свързани с ИИ, които бяха обсъдени тази година. Повечето са насочени към части от AI, като например използването на дълбоки фалшификати в избори или за създаване на порнография.
Седемте законопроекта са по-амбициозни, прилагат се в основните индустрии и са насочени към дискриминацията, един от най-перверзните и сложни проблеми на технологията.
„Всъщност нямаме видимост за използваните алгоритми, независимо дали са работят или не, или дали сме дискриминирани“, каза Руман Чоудхури, пратеник на AI към Държавния департамент на САЩ, който преди това е ръководил екипа по етика на AI на Twitter.
Въпреки че антидискриминационните закони вече са в сила, тези, които изучават AI дискриминацията, казват, че това е различен звяр, чието регулиране САЩ вече изостават.
„Компютрите вземат пристрастни решения в мащаб “, каза Кристин Уебър, адвокат по граждански права, който е работил по групови искове за дискриминация, включително срещу Boeing и Tyson Foods. Сега Уебър е близо до окончателното одобрение на едно от първите в страната споразумения в групов иск срещу дискриминация на AI.
„Не, трябва да кажа, че старите системи също бяха напълно свободни от пристрастия“, каза Уебър. Но „всеки един човек би могъл да разгледа само толкова много автобиографии на ден. Така че бихте могли да вземете толкова много пристрастни решения само за един ден, а компютърът може да го направи бързо сред голям брой хора.“
Когато кандидатствате за работа, апартамент или жилищен заем, има добър шанс AI оценява вашата кандидатура: изпраща я по линията, присвоява й оценка или я филтрира. Изчислено е, че 83% от работодателите използват алгоритми, за да помогнат при наемането, според Комисията за равни възможности за заетост.
Самият AI не знае какво да търси в кандидатурата за работа, така че се учи въз основа на минали автобиографии. Историческите данни, които се използват за обучение на алгоритми, могат да доведат до пристрастия.
Amazon, например, работи върху алгоритъм за наемане, който е обучен върху стари автобиографии: предимно мъже кандидати. При оценката на новите кандидати, той понижава автобиографиите с думата „женски“ или изброяващите женски колежи, тъй като те не са представени в историческите данни – автобиографиите – от които е научил. Проектът беше провален.
В съдебния иск на Уебър се твърди, че AI система, която оценява заявления за наем, непропорционално е дала по-ниски резултати на чернокожи или испанци кандидати. Проучване установи, че система с изкуствен интелект, създадена за оценка на медицинските нужди, предава чернокожи пациенти за специални грижи.
Проучвания и съдебни дела позволиха да се надникне под капака на системите с изкуствен интелект, но повечето алгоритми остават завоалирани. Американците до голяма степен не знаят, че тези инструменти се използват, показва проучване на Pew Research. По принцип от компаниите не се изисква изрично да разкриват, че е използван AI.
„Просто дръпването на завесата, за да можем да видим кой наистина прави оценката и какъв инструмент се използва, е огромна, огромна първа стъпка“, каза Уебър. „Съществуващите закони не работят, ако не можем да получим поне някаква основна информация.“
Това се опитват да променят законопроектът на Колорадо, заедно с друг оцелял законопроект в Калифорния. Законопроектите, включително водещото предложение в Кънектикът, което беше отхвърлено поради съпротивата на губернатора, са до голяма степен сходни.
Законопроектът на Колорадо ще изисква от компаниите, използващи AI, да помагат при вземането на последващи решения за американците да оценяват ежегодно своя AI за потенциал пристрастие; прилагане на програма за надзор в компанията; уведомете главния прокурор, ако е открита дискриминация; и да информира клиентите, когато е използван AI, за да им помогне да вземат решение, включително опция за обжалване.
Профсъюзите и учените се опасяват, че разчитането на компаниите, които се самонадзирават, означава, че ще бъде трудно проактивно да се обърне внимание на дискриминацията в системата на ИИ, преди да е нанесла щети. Компаниите се страхуват, че принудителната прозрачност може да разкрие търговски тайни, включително при потенциални съдебни спорове, в тази свръхконкурентна нова област.
Компаниите с изкуствен интелект също настояваха за и като цяло получиха разпоредба, която позволява само на главния прокурор, не граждани, да водят дела по новия закон. Подробностите за правоприлагането са оставени на главния прокурор.
Докато по-големите компании за изкуствен интелект повече или по-малко се съгласяват с тези предложения, група от по-малки компании за изкуствен интелект, базирани в Колорадо, заявиха, че изискванията може да бъдат управлявани от behemoth AI компании, но не и от начинаещи стартиращи компании.
„Ние сме в съвсем нова ера на първична супа“, каза Логан Черковник, основател на Thumper.ai, имайки предвид областта на AI. „Наличието на прекалено рестриктивно законодателство, което ни принуждава да даваме дефиниции и ограничава използването на технологии, докато това се формира, просто ще бъде пагубно за иновациите.“
Всички се съгласиха, заедно с много AI компании, че това, което официално се нарича „алгоритмичната дискриминация“ е от решаващо значение за справяне. Но те казаха, че законопроектът, както е написан, не достига тази цел. Вместо това те предложиха засилване на съществуващите антидискриминационни закони.
Чоудхури се притеснява, че съдебните дела са твърде скъпи и отнемат много време, за да бъдат ефективен инструмент за правоприлагане, и вместо това законите трябва да надхвърлят това, което дори Колорадо предлага. Вместо това Чоудхури и академиците са предложили акредитирана независима организация, която може изрично да тества за потенциални пристрастия в алгоритъм с ИИ.
„Можете да разберете и да се справите с един човек, който е дискриминационен или предубеден“, каза Чоудхури. „Какво правим, когато е вградено в цялата институция?“
___
Бедайн е член на корпуса на Associated Press/Report for America Statehouse News Initiative. Доклад за Америка е програма за национални услуги с нестопанска цел, която поставя журналисти в местни редакции, за да докладват по скрити въпроси.
