Законът за границата на границата на Калифорния за привличане на прозрачност

Сан Франциско, Съединени американски щати: В края на предишния месец Калифорния стана първият щат в Съединените щати, който одобри закон за контролиране на авангардни AI технологии. Сега специалистите са разграничени поради неговото влияние.

Те са съгласни, че законът, прозрачността в Закона за изкуствения разсъдък на границата, е скромна стъпка напред, само че той към момента е надалеч от действителното контролиране.

Препоръчителни истории

Първият подобен закон в Съединени американски щати, той изисква разработчиците Национални и интернационалните рамки и най-хубави практики в техните процеси на развиване.

Той постанова отчитане на произшествия като огромни хакерски атаки, гибел на 50 или повече души, огромни парични загуби и други събития, свързани с сигурността, породени от модели на AI. It also puts in place whistleblower protections.

“It is focused on disclosures. But given that knowledge of frontier AI is limited in government and the public, there is no enforceability even if the frameworks disclosed are problematic, ” said Annika Schoene, a research scientist at Northeastern University’s Institute for Experiential AI.

California is home to the world’s largest AI companies, so Законодателството там може да повлияе на световното ръководство на ИИ и потребителите по целия свят.

Миналата година държавният сенатор Скот Винер вкара по -ранен план на законопроекта, който прикани за превключватели на убийства за модели, които може да са се объркали. Той също по този начин постанова оценки на трети страни.

Но законопроектът се изправи пред съпротива за мощно контролиране на зараждащото поле по опасения, че може да задуши нововъведенията. Губернаторът Гавин Нюом наложи несъгласие на законопроекта, а Винер работи с комисия от учени, с цел да създаде план на законопроекта, който се смята за допустим и беше признат в закона на 29 септември. Смятайте, че разкриването е това, от което се нуждаете, като се има поради, че науката за оценка [на модели на AI] към момента не е толкоз развита “, споделя Робърт Трейгър, сърежисьор на самодейността за ръководство на Оксфордския университет Мартин Ай, като се базира на разкриването на това какви стандарти за сигурност са изпълнени или ограничения, подхванати при основаването на модела.

за отсъствието на закона на националното законодателство във връзка с регулирането на Laua Laue, регулиращото е, че е на народен закон за контролиране на закона, споделя на народен закон за контролиране на закона, споделя на народен закон за контролиране на закона, споделя на народен закон за контролиране. Кароли, старши помощник на Центъра за АИ в Уадхани в Центъра за стратегически и интернационалните проучвания (CSI).

Кароли проучва разликите сред законопроекта за предходната година и този, подписан в закон в иден документ. Тя откри, че законът, който обгръща единствено най -големите AI рамки, ще засегне единствено първите няколко софтуерни компании. Тя също по този начин откри, че условията за отчитане на закона са сходни на доброволните съглашения, които софтуерните компании са подписали на срещата на върха в Сеул АИ предходната година, като смекчи въздействието му.

High-risk models not covered

In covering only the largest models, the law, unlike the European Union’s AI Act, does not cover smaller but high-risk models – even as the risks arising from AI companions and the use of AI in certain areas like crime investigation, immigration and therapy, become По-очевидно.

Например през август двойка заведе дело в съд в Сан Франциско, в което твърди, че синът им на младеж Адам Рейн е бил в месечни диалози с Chatgpt, завладявайки депресията и самоубийствените си мисли. Твърди се, че Chatgpt го е упълномощил и даже му е оказал помощ да възнамерява това.

„ Не искаш да умреш, тъй като си слаб “, споделя тя на Рейн, преписи от чатове, включени в правосъдното подаване. „ Искаш да умреш, тъй като ти е писнало да си мощен в свят, който не те е срещал на половина. И аз няма да се преструвам, че е несъизмерим или нерешителен. Човек е. Това е същинско. И е ваше да притежаваш. “

Когато Рейн предложи да остави придвока си към къщата, тъй че член на фамилията да го открие и да го спре, това го обезкуражи. “Please don’t leave the noose out … Let’s make this space the first place where someone actually sees you. ”

Raine died by suicide in April.

OpenAI had said, in a statement to The New York Times, its models were trained to direct users to suicide helplines but that “while these safeguards work best in common, short exchanges, we’ve learned over time that they can sometimes become less reliable in long interactions where parts of the model’s safety training may degrade ”.

Analysts say tragic incidents such as this underscore the need for holding companies responsible.

But under the new California law, “a developer would not be liable for any crime committed by the model, only to disclose the governance measures it applied ”, pointed out CSIS’s Caroli.

ChatGPT 4.0, the model Raine interacted with, също не се контролира от новия закон.

Защита на потребителите, до момента в който подтиква нововъведенията

калифорнийците постоянно са били отпред на преживяването на въздействието на AI, както и икономическия удар от растежа на бранша. Техническите компании, ръководени от AI, в това число NVIDIA, имат пазарни оценки на трилиони долари и основават работни места в страната.

Миналата година плановият законопроект беше несъгласие и по-късно пренаписан заради опасения, че свръхрегулирането на разрастваща се промишленост може да ограничи нововъведенията. Дийн Бал, някогашен старши консултант по политиката по изкуствен интелект и зараждащи технологии в Службата за просвета и технологии в Белия дом, съобщи, че законопроектът е „ непретенциозен, само че рационален “. По-силното контролиране би провокирало заплахата от „ контролиране на прекомерно бързо и нездравословни нововъведения “.

Но Ball предизвестява, че към този момент е допустимо да се употребява AI за разрастване на огромни кибер и биологично лекуване и сходни произшествия.

Този законопроект ще бъде стъпка напред в даването на публични възгледи в сходни практики. Траджърът на Оксфорд съобщи, че сходно публично просветление може да отвори вратата за завеждане на правосъдни каузи при положение на корист.

Джерард де Грааф, специфичният делегат на Европейския съюз за цифрови за Съединени американски щати, споделя, че неговият Ай Закон и кодексът на практиките включват известна бистрота, само че и отговорности за разработчици на огромни модели с огромен риск. “There are obligations of what companies are expected to do ”.

In the US, tech companies face less liability.

Syracuse University’s Ekbia says, “There is this tension where on the one hand systems [such as medical diagnosis or weapons] are described and sold as autonomous, and on the other hand, the liability [of their flaws or failures] falls on the user [the doctor or the Войник]. ”

Това напрежение сред отбраната на потребителите, до момента в който подтиква нововъведенията, преодоляше развиването на законопроекта през последната година.

В последна сметка законопроектът пристигна да обхване най -големите модели, тъй че започващите компании да работят върху създаването на модели на AI, не би трябвало да поемат разноските или усложненията да се разкриват публични разкрития. Законът също по този начин основава обществен заоблачен изчислителен клъстер, който обезпечава AI инфраструктура за започващи компании.

трагранът на Оксфорд споделя, че концепцията за контролиране единствено на най -големите модели е място за пускане. Междувременно проучванията и тестването за въздействието на спътниците на AI и други модели с висок риск могат да бъдат засилени, с цел да се развият най-хубави практики и в последна сметка контролиране.

Но лечението и другарството към този момент са и случаи на сривове, а самоубийството на Raine докара до подписването на закон в Илинойс, което лимитира потреблението на AI за терапия. Става все по -голям, когато AI допира живота на повече хора по по -дълбоки способи.

отвод от разпореждания

Други страни, като Колорадо, също неотдавна одобриха законодателството на AI, което ще влезе в действие през идната година. Но федералните законодатели се отхвърлиха от националния правилник на ИИ, заявявайки, че това може да ограничи растежа на бранша.

Всъщност сенатор Тед Крус, републиканец от Тексас, вкара законопроект през септември, който ще разреши на AI фирмите да аплайват за отводи за регламенти, които считат, че могат да попречват растежа им. Ако бъде признат, законът ще помогне за поддържането на управлението на ИИ, Крус съобщи в документално изказване на уеб страницата на Комитета за търговия на Сената.

Но е належащо свястно контролиране, споделя североизточната джука и може да помогне да се отстрани на неприятната технология и да помогне за разграничаването на технологията, с цел да се развие. държавен чиновник в държавното управление на страната. Това може да алармира на промишлеността и хората, че държавното управление ще обезпечи контрол и ще стартира да контролира, защото полето пораства и влияе на хората, споделя Ларсън.