Калифорнийският губернатор Gavin Newsom подписва забележителен законопроект Създаване на мерки за безопасност на AI

Сакраменто, Калифорния (AP) - Калифорнийският губернатор Гавин Нюом в понеделник подписа закон, който има за цел да попречи на хората да употребяват мощни модели на изкуствен интелект за евентуално пагубни действия като създаване на биологично лекуване или прекъсване на банкова система.

Този ход идва, когато Newsom разгласи Калифорния като водач в регулирането на AI и подлага на критика бездействието на федерално равнище в скорошен диалог с някогашния президент Бил Клинтън. Новият закон ще откри някои от разпоредбите за първа втори за огромни модели на AI, без да навреди на държавната промишленост за дома, сподели Newsom. Тридесет и две от най-хубавите 50 AI компании са ситуирани в Калифорния и ще би трябвало да съблюдават условията.

„ Калифорния потвърди, че можем да установим регулации за отбрана на нашите общности, като в същото време подсигуряваме, че възходящата АИ промишленост продължава да процъфтява.

Законодателството изисква AI фирмите да ползват и разкриват протоколи за социална сигурност, с цел да предотвратят потреблението на най -модерните си модели, с цел да причинят огромни вреди. Правилата са проектирани да покриват AI системи, в случай че дават отговор на „ граничен “ предел, който алармира, че те работят на голямо количество изчислителна мощ.

Такива прагове се основават на какъв брой калкулации компютрите правят. Онези, които са изработили регламентите, признаха, че числените прагове са несъвършена насочна точка за разграничение на днешните най-високоефективни генеративни AI системи от идващото потомство, които биха могли да бъдат още по-мощни. Съществуващите системи се вършат значително от основани в Калифорния компании като Anthropic, Гугъл, Meta платформи и Openai.

▶ Бъдете в крайник с най -новите американски вести, като се регистрирате в нашия канал WhatsApp.

Законодателството дефинира пагубния риск като нещо, което би предизвикало най-малко 1 милиард $ вреди или повече от 50 пострадвания или гибел. Той е предопределен да се защищити от AI, който се употребява за действия, които могат да причинят всеобщи спирания, като хакване в електрическа мрежа.

Компаниите също би трябвало да рапортуват на страната всевъзможни сериозни произшествия за сигурност в границите на 15 дни. Законът основава отбрани за подаване на сигнали за служащите на AI и основава публичен облак за откриватели. Тя включва санкция от 1 милион $ за нарушаване.

Това притегли опълчване от някои софтуерни компании, които настояват, че законодателството на AI би трябвало да се прави на федерално равнище. Но Anthropic съобщи, че регламентите оказват помощ за равнене на изискванията и прави публични практики за сигурност, които доста компании към този момент вършат непринудено.

„ Разработчиците могат да се конкурират, като в същото време подсигуряват, че те остават транспарантни във връзка с опциите за AI, които съставляват риск за публичната сигурност, създавайки равни условия, където разкриването е наложително, а не по желание “, съобщи компанията в своето утвърждение.

Подписването идва откакто Newsom предходната година наложи несъгласие на по -широка версия на законодателството, като настрани с софтуерните компании, които обявиха, че условията са прекомерно строги и биха попречили нововъведенията. Вместо това Newsom помоли група от няколко специалисти в сектора, в това число AI Pioneer Fei-Fei Li, да създаде рекомендации за предпазители към мощни AI модели.

Новият закон включва рекомендации и мнения от групата на специалистите на AI на Newsom и промишлеността, обявиха последователите. Законодателството също не слага същото равнище на условия за отчитане на започващите компании, с цел да се избегне пострадването на нововъведенията, съобщи държавният сенатор Скот Винер от Сан Франциско, създател на законопроекта.

„ С този закон Калифорния още веднъж се засилва, като световен водач както за софтуерните нововъведения, по този начин и за сигурността “, споделя Винер в изказване.

Решението на Newsom идва, защото президентът Доналд Тръмп през юли разгласи проект за унищожаване на това, което администрацията му вижда като „ обременителни “ регулации, с цел да форсира нововъведенията на AI и да ускоряват американската позиция като „ обременителни “ регулации, с цел да ускорят нововъведенията на AI и да преодолеят позицията на Съединени американски щати като „ обременителни “ регулации, с цел да ускорят нововъведенията на AI и да преодолеят позицията на Съединени американски щати като „ обременителни “ регулации, с цел да ускорят нововъведенията на AI и да преодолеят американската позиция като „ натоварващ “. Републиканците в Конгреса по -рано тази година безрезултатно се пробваха да забранят страните и местностите да контролират AI за десетилетие.

Без по -силни федерални разпореждания, страните в цялата страна прекараха през последните няколко години в опит да се възползват от технологията, като се оправят с всичко - от Deepfakes на избори до AI „ терапия “. В Калифорния законодателната власт тази година одобри редица законопроекти за справяне с опасенията за сигурност към AI чатботите за деца и потреблението на AI на работното място.

Калифорния също е ранно приемане на AI технологии. Държавата е разположила генеративни AI принадлежности за забелязване на пожари и адресиране на тапите на автомагистралите и сигурността на пътищата, наред с други неща.

—-

Репортерът на Асошиейтед прес Мат О’Брайън способства за отчета.