Калифорния напредва в мерките, насочени към AI дискриминация и deepfakes

САКРАМЕНТО, Калифорния (AP) — Докато корпорациите от ден на ден вплитат технологии за изкуствен интелект в всекидневието на американците, законодателите в Калифорния желаят да изградят публично доверие, да се борят с алгоритмичната дискриминация и да забранят deepfakes които включват избори или порнография.

Усилията в Калифорния — дом на доста от най-големите компании за ИИ в света — биха могли да проправят пътя за регулации за ИИ в цялата страна. Съединените щати към този момент изостават от Европа в регулирането на ИИ за ограничение на рисковете, споделят законодатели и специалисти, а бързо разрастващата се технология поражда опасения по отношение на загуба на работа, дезинформация, навлизане в поверителността и пристрастия към автоматизацията.

Множество оферти, ориентирани към справяне с тези опасения, напреднаха предходната седмица, само че би трябвало да завоюват утвърждението на другата камара, преди да дойдат на бюрото на губернатора Гавин Нюсъм. Губернаторът от Демократическата партия разпространява Калифорния като ранен правоприемник, както и като регулатор, като сподели, че щатът може скоро да внедри генеративни AI принадлежности за справяне със тапите по автомагистралите, да направи пътищата по-безопасни и да даде данъчни насоки, макар че неговата администрация обмисля нови правила против дискриминирането на AI при практиките за наемане.

С към този момент въведените строги закони за дискретност Калифорния е в по-добра позиция да вкара въздействащи регулации, в сравнение с други щати с огромни ползи към ИИ, като Ню Йорк, сподели Татяна Райс, заместник-директор на Future of Privacy Forum, организация с нестопанска цел, която работи със законодателите по оферти за технологии и дискретност.

„ Нуждаете се от закон за дискретност на данните, с цел да можете да приемете закон за ИИ “, сподели Райс. „ Все още обръщаме внимание на това, което прави Ню Йорк, само че бих заложил повече на Калифорния. “

Законодателите от Калифорния споделиха, че нямат самообладание да работят, цитирайки тежки уроци, които са научили от неуспеха да ръководят фирмите за обществени медии, когато може би са имали късмет. Но те също желаят да продължат да притеглят AI компании към страната.

Ето по-отблизо предложенията на Калифорния:

БОРБА С ДИСКРИМИНАЦИЯТА С ИИ И ИЗГРАЖДАНЕ НА ОБЩЕСТВЕНО ДОВЕРИЕ

Някои компании, в това число лечебни заведения, към този момент употребяват модели на ИИ, с цел да дефинират решения за наемане, жилища и медицински благоприятни условия за милиони американци без доста контрол. До 83% от работодателите употребяват AI, с цел да оказват помощ при наемането, съгласно Комисията за равни благоприятни условия за претовареност на Съединени американски щати. Как работят тези логаритми значително остава мистерия.

Една от най-амбициозните ограничения за ИИ в Калифорния тази година би дръпнала завесите на тези модели посредством определяне на рамка за контрол за попречване на пристрастия и дискриминация. Това ще изисква фирмите, употребяващи AI принадлежности, да вземат участие в решенията, които дефинират резултатите и да осведомят засегнатите хора, когато се употребява AI. Разработчиците на AI ще би трябвало рутинно да вършат вътрешни оценки на своите модели за пристрастия. И основният прокурор на щата ще има право да проверява отчети за дискриминиращи модели и да постанова санкции от $10 000 за нарушаване.

Компаниите с изкуствен интелект също скоро може да бъдат задължени да стартират да разкриват какви данни употребяват, с цел да образоват своите модели.

ЗАЩИТА НА РАБОТНИ МЕСТА И ПРИЛИЧНОСТ

Вдъхновен от траялата месеци стачка на холивудски артисти предходната година, народен представител от Калифорния желае да отбрани служащите от замяната им с генерирани от AI клонинги – главен въпрос на разногласия в договарянията за контракт.

Предложението, подкрепено от Калифорнийската трудова федерация, ще разреши на изпълнителите да се откажат от съществуващите контракти, в случай че неразбираемият език може да разреши на студиата свободно да употребяват AI за цифрово клониране на техните гласове и сходство. Освен това ще изисква изпълнителите да бъдат представлявани от юрист или представител на синдикатите при сключване на нови контракти за „ глас и сходство “.

Калифорния може също по този начин да наложи санкции за цифрово клониране на мъртви хора без единодушието на тяхното завещание, цитирайки случая с медийна компания, която е основала подправена, генерирана от изкуствен интелект комедия, специфична за пресъздаване на стила на починалия комедиант Джордж Карлин и материал без разрешението на неговото имущество.

РЕГУЛИРАНЕ НА МОЩНИ ГЕНЕРАТИВНИ СИСТЕМИ AI

Рисковете в действителния свят изобилстват, защото генеративният AI основава ново наличие като текст, аудио и фотоси в отговор на подкани. Така че законодателите обмислят да изискват парапети към „ извънредно огромни “ AI системи, които имат капацитета да излъчат указания за основаване на бедствия – като създаване на химически оръжия или подкрепяне на хакерски атаки – които могат да причинят вреди от най-малко 500 милиона $. Би било належащо такива модели да имат вграден „ комутатор за изключване “, наред с други неща.

Мярката, подкрепена от някои от най-известните откриватели на AI, също по този начин ще сътвори нова държавна организация, която да следи разработчиците и да дава най-хубави практики, в това число за още по-мощни модели, които към момента не съществуват. Главният държавен прокурор също ще може да води правосъдни каузи при положение на нарушавания.

ЗАБРАНА НА DEEPFAKES, ВКЛЮЧВАЩИ ПОЛИТИКА ИЛИ ПОРНОГРАФИЯ

Двупартийна коалиция се стреми да улесни наказателното гонене на хора, които употребяват AI принадлежности за основаване на изображения на полово принуждение над деца. Действащият закон не разрешава на окръжните прокурори да преследват хора, които имат или популяризират изображения на полово малтретиране на деца, генерирани от AI, в случай че материалите не изобразяват действително лице, споделиха правоприлагащите органи.

Множество депутати от Демократическата партия също поддържат законопроект за справяне с дълбоките фалшификации на изборите, като се базират на опасения, откакто генерираните от AI автоматизирани позвънявания имитираха гласа на президента Джо Байдън преди последните първоначални президентски избори в Ню Хемпшир. Предложението ще забрани „ материално лъжливи “ дълбоки фалшификации, свързани с избори, в политически писма, автоматизирани диалози и телевизионни реклами 120 дни преди деня на изборите и 60 дни по-късно. Друго предложение изисква обществените медийни платформи да етикетират всички изявления, свързани с избори, основани от AI.