Законопроектът за AI, който кара клин през Силиконовата долина

тласъкът на Калифорния да контролира изкуствения разсъдък, е нахлул в Силиконовата котловина, защото съперниците предизвестяват, че правната рамка може да подкопае конкуренцията и позицията на Съединени американски щати като международен водач в технологията.

След като водеше яростна борба за изменение или увеличение на законопроекта, когато той мина през законодателната власт на Калифорния, ръководителите на компании, в това число Openai и Meta, чакат с неспокойствие да видят дали Гавин Нюом, държавният либерален губернатор, ще го подпише в закона. Той има до 30 септември да реши.

Калифорния е сърцето на разрастващата се АИ промишленост и без федерален закон, който да контролира технологията в Съединени американски щати - камо ли единствен световен стандарт - следствията ще се простират надалеч далеч оттатък страната. ; Йошуа Бенгио, професор в Университета в Монреал и „ кръстник “ на AI, сподели пред Financial Times.

Защо Калифорния желае да контролира ИИ? /H3>

Бързото развиване на AI принадлежности, които могат да генерират човешки отговори на въпроси, усилват възприеманите опасности към технологията, вариращи от правни разногласия като нарушение на авторски права до дезинформация и разпространяване на Deepfakes. Някои даже считат, че това може да съставлява опасност за човечеството.

Президентът Джо Байдън издаде изпълнителна заповед предходната година, като целяха да дефинират националните стандарти за сигурността на AI, само че Конгресът не реализира никакъв прогрес в приемането на национални закони.

Либералната Калифорния постоянно е скочила, с цел да контролира по въпросите, при които федералното държавно управление изостава. AI е във фокус със сигурната и сигурна иновация на Калифорния за Закона за системите за пограничен изкуствен интелект на границата, който бе изложен от държавния сенатор Скот Винер. От другите законопроекти, подадени в разнообразни щати, този в Калифорния е най -вероятно да окаже действително влияние, защото страната е в центъра на софтуерния взрив, дом на най -добрите компании, в това число Openai, Anthropic, Meta и Гугъл.

Бенгио сподели: „ Големите компании за AI, които са били най -гласови по този въпрос, сега са заключени в надпреварата си за пазарен дял и максимизиране на облагата, което може да докара до понижаване на ъглите, когато става въпрос за сигурност и Ето за какво се нуждаем от някои правила за тези, които водят тази конкуренция. ”

Какво споделя сметката?

Wiener съобщи, че законопроектът му „ изисква единствено най -големите разработчици на AI да вършат това, което всеки един от тях неведнъж се е заел да прави: прави съществени проби за сигурност на всеобщо мощни модели на AI “.

Законопроектът ще изисква разработчиците, изграждащи огромни модели, да преценяват дали са „ рационално способни да причинят или значително дават опция за сериозна щета “, вариращи от злонамерена приложимост или кражба до основаване на биологично оръжие. След това ще се чака фирмите да вземат рационални защитни ограничения против тези разпознати опасности.

Разработчиците ще би трябвало да изградят „ комутатор за ликвидиране “ във всевъзможни нови модели в избран размер, ако са злоупотребявани или да изпаднат в лъжец. They would also be obliged to draft a safety report before training a new model and to be more transparent — they would have to “report each artificial intelligence safety incident ” to the state's attorney-general and undertake a third-party audit to ensure compliance every година.

Той е ориентиран към модели, които костват повече от 100 милиона $ за трениране, почти сумата, нужна за образование на днешните най -добри модели. Но това е бързо движеща се цел: Антропският изпълнителен шеф Дарио Амодей предвижда, че идната група от авангардни модели ще коства 1 милиарда Долара за образование и 10 милиарда $ до 2026 година

Законопроектът ще се ползва за всички компании Правейки бизнес в Калифорния, без значение къде са основани, което в действителност би обхващало всяка компания, която сега е в положение да създава топ модели на AI, сподели Бенгио.

Той ще вкара цивилен санкции до 10 на 100 от разноските за образование на модел против разработчици, чиито принадлежности предизвикват гибел, кражба или щета на имуществото. Той също по този начин ще сътвори отговорности за фирмите, предлагащи изчислителни запаси, с цел да обучат тези модели и одиторски компании, което ще ги направи виновни за събирането и запазването на подробна информация за идентичността и желанията на клиентите. Ако не го извършите, може да докара до санкции до Щатски долар 10mn.

Кой е за сметката и кой е срещу него?

Wiener и неговите сътрудници споделят, че има мощна социална поддръжка за нови AI Guardrails. Той също е спечелил квалифицирана поддръжка от водещия започващ AI Anthropic и Elon Musk, както и Sag-Aftra, съюз на актьорите и две женски групи. В понеделник 100 чиновници в най -добрите AI компании, в това число Openai, XAI и Гугъл DeepMind, подписаха писмо, призоваващи Newsom да подпише законопроекта. ;

Критици-включително учени като Stanford AI Professor Fei-Fei Li, компания за рисков капитал Андреесен Хоровиц и започващ ускорител Y Combinator-твърдят, че законопроектът ще омагьосва фирмите в ранен стадий и разработчиците на отворен източник, които обществено са обществено Споделете кода, който е в основата на техните модели.

Сената Бил SB 1047 ще „ забави темпото на нововъведенията и ще води инженерите и бизнесмените от международна класа в Калифорния да изоставен страната в търсене на по-големи благоприятни условия другаде “, предизвести основният чиновник по тактиката на Openai Джейсън Квон в писмо до Винер предишния месец. Той озвучи едно от най -често срещаните недоволства: че сенаторът се вписва в регион, който би трябвало да се оправи на федерално равнище.

съперниците също по този начин споделят, че това би задушило нововъведенията, като натрупва обременителни условия към разработчиците и ще ги направи виновни за потреблението на своите AI модели от неприятни артисти. Той законодател за опасности, които към момента не съществуват, прибавят.

Дарио Гил, шеф на научните проучвания в IBM, сподели: „ Философски, предвиждайки следствията от това по какъв начин хората ще употребяват вашия код в софтуера е a Много сложен проблем. Как хората ще го употребяват, по какъв начин ще очаквате, че някой ще навреди? Това е страховит инхибитор. Това е доста хлъзгав скат. "

Дан Хендрикс, шеф на Центъра за сигурност на ИИ, който изигра сериозна роля при формулирането на законопроекта, съобщи, че съперниците „ желаят държавните управления да им дадат празен чек за създаване и разрастване на каквито и да било технологии, без значение от държавни управления Риск или щета на обществото ”.

Хендрикс, който също е консултант на XAI на Мъск, попадна под обстрел от критици, които хвърлят CAIS като облекло за ресни, прекомерно загрижени за екзистенциални опасности от AI. Противниците също показаха опасения, че CAIS е лобирал за въздействие върху „ Съвет на пограничните модели “, който законопроектът ще сътвори, личен състав с девет шефове, извлечени от промишлеността и университетските среди и натоварва да актуализира регулациите към моделите на AI и да подсигурява спазването на спазването.

Винер отхвърли тези причини като „ доктрина на конспирацията “.

„ Опозицията се опита да нарисува всеки, който поддържа законопроекта като„ Doomers “, сподели той. „ Казаха, че това са опасности от научната фантастика; Че бяхме съсредоточени върху терминатора [филм]. Ние не сме, фокусирани сме върху доста действителни опасности като изключване на електрическата мрежа или банковата система или основаване на химическо или биологично оръжие. “

Как създателите на законопроекта се пробваха да се оправят с терзанията?

Wiener сподели, че той и неговият екип са прекарали последните 18 месеца, ангажирайки се с „ всеки, който ще се срещне с нас “, с цел да разиска законопроекта, в това число LI и сътрудници в Andreessen и Y Combinator.

Едно от техните терзания беше, че условието на комутатор за ликвидиране за модели с отворен код ще попречи на други разработчици да се трансформират или да се построяват върху тях от боязън, че могат да бъдат изключени сега на известието. Това би могло да бъде съдбовно за младите компании и университетските среди, които разчитат на по-евтини или безвъзмездни достъпа с отворен код. оттатък несъмнено равнище по трети страни. Те също няма да се изисква да имат комутатор за ликвидиране.

Някои от първичните стриктури на законопроекта също са модерирани, в това число свиване на обсега на гражданските санкции и ограничение на броя на моделите, обхванати от новите правила.

Ще стане ли законопроектът?

SB 1047 елементарно одобри законодателството на страната. Сега Newsom би трябвало да реши дали да подпише законопроекта, да разреши да стане закон без подписа си или да го наложи несъгласие. Ако той направи несъгласие, законодателството на Калифорния може да анулира това с избор от две трети. Но съгласно представител на Wiener на процедура няма късмет това да се случи. Последният път, когато ветото на губернатора на Калифорния беше анулирано, беше през 1980 година

Губернаторът е на мъчно място, като се има поради смисъла на софтуерната промишленост за неговата страна. Но оставянето на AI да стане без инспекция може да бъде още по -проблематично.

Wiener сподели: „ Бих се радвал на това да бъде федерално законодателство: Ако Конгресът работи в това пространство и одобри мощен законопроект за сигурност на AI, ще се веселя да се амбалирам и да се прибера у дома. Но тъжната действителност е, че до момента в който Конгресът е доста, доста сполучлив в опазването на здравето, инфраструктурата и климата, той в действителност се бори с регулирането на технологиите. . . Докато Конгресът не работи, Калифорния има обвързване да води, тъй като ние сме сърцето на софтуерната промишленост. ”