Калифорнийски законопроект за регулиране на ИИ Предизвиква тревога в Силициевата долина

Калифорнийски законопроект, който може да наложи ограничавания върху изкуствения разсъдък, кара софтуерните компании, вложителите и деятелите да се мъчат да обяснят какво би могло да се случи с първото по рода си законодателство значи за тяхната промишленост в щата.

Законопроектът към момента си проправя път през столицата на щата Сакраменто. Очаква се да стигне до комисията по бюджетните заеми на щатското заседание на Калифорния в четвъртък, преди да бъде изправен пред гласоподаване от цялостното заседание.

Ако бъде подписан като закон от губернатор Гавин Нюсъм, законопроектът ще изискват от фирмите да тестват сигурността на мощния ИИ. технологии, преди да ги пуснат на обществеността. Това също ще разреши на основния прокурор на Калифорния да съди компании, в случай че техните технологии предизвикват сериозна щета, като да вземем за пример всеобщи вреди на имущество или човешки жертви.

Дебатът за ИИ. Законопроектът, наименуван SB 1047, е отражение на причините, които провокираха мощен интерес към изкуствения разсъдък. Противниците считат, че това ще задуши напредъка на технологиите, които дават обещание да усилят продуктивността на служащите, да подобрят опазването на здравето и да се борят с изменението на климата.

A.I. специалисти и механически ръководители водеха обществени полемики за рисковете от ИИ. и даже прикани законодателите във Вашингтон да оказват помощ за слагането на тези парапети.

Сега, в противоположна посока, софтуерната промишленост се отдръпва от опита да направи тъкмо това в Калифорния. Тъй като са основани в щата или вършат бизнес в щата, доста от водещите A.I. компании, в това число Гугъл, Meta, Anthropic и OpenAI, ще бъдат обвързани от оферти закон, който може да сътвори казус за други щати и национални държавни управления.

SB 1047 идва на нестабилно време за региона на залива на Сан Франциско, където огромна част от ИИ. започваща общественост, както и доста от най-големите компании в промишлеността, се базира. Най-острите му критици настояват, че законопроектът може да тласне A.I. развиване в други щати, тъкмо когато районът се възвръща от спад, провокиран от пандемия.

Някои забележителни ИИ. откриватели поддържаха законопроекта, в това число Джеф Хинтън, някогашен откривател на Гугъл, и Йошуа Бенгио, професор в университета в Монреал. Двамата прекараха последните 18 месеца, предупреждавайки за заплахите от технологията. Други ИИ пионери се оповестиха против законопроекта, в това число шефът на Meta A.I. академик Ян Лекун и някогашните ръководители на Гугъл и професори от Станфорд Андрю Нг и Фей-Фей Ли.

попречване на екзистенциални закани от AI.

Законопроектът ще изисква сигурност проби за системи, чиито разноски за разработка надвишават 100 милиона $ и които се образоват благодарение на несъмнено количество сурова изчислителна мощ. Освен това ще сътвори нова държавна организация, която дефинира и следи тези проби. Дан Хендрикс, създател на Центъра за ИИ. Безопасност, сподели, че законопроектът ще накара най-големите софтуерни компании да разпознават и отстранен нездравословното държание от най-скъпите си технологии.

„ Сложните системи ще имат ненадейно държание. Можете да разчитате на това “, сподели доктор Хендрикс в изявление за The New York Times. „ Сметката е апел да се подсигурява, че тези системи нямат рискове или, в случай че заплахите съществуват, че системите имат подобаващите защитни ограничения. “

не е доста по-опасно от търсачките.

Все отново някои A.I. специалистите настояват, че на хоризонта се задават съществени рискове. В един образец Дарио Амодей, основен изпълнителен шеф на високопоставената A.I. започващата компания Anthropic, сподели на Конгреса предходната година, че нов ИИ. технологията скоро може да помогне на неквалифицирани хора да основават широкомащабни биологични офанзиви.

Mr. Винер сподели, че се пробва да предотврати тези страшни сюжети.

„ Исторически сме чакали да се случат неприятни неща и по-късно сме извивали ръце и сме се справяли с тях по-късно, от време на време когато конят излезе от обора и беше прекомерно късно “, сподели господин Винер в изявление. „ Така че моето мнение е, дано се опитаме, по доста лек метод, да изпреварим рисковете и да ги предвидим. “

Гугъл и Meta изпратиха писма до господин, Винер показва угриженост по отношение на законопроекта. Anthropic, компанията на господин Amodei, изненада доста наблюдаващи, когато също се опълчи на законопроекта в сегашната му форма и предложи промени, които биха разрешили на фирмите да управляват личните си проби за сигурност. Компанията сподели, че държавното управление би трябвало да се намеси единствено в случай че са породени действителни вреди.

Mr. Винер сподели, че опълчването на софтуерните колоси е изпратило смесени послания. Компаниите към този момент дадоха обещание на администрацията на Байдън и световните регулатори, че ще тестват системите си за сигурност.

които помогнаха за основаването на технологиите, които ръководят водещия AI. системи, сподели, че новият законопроект за Калифорния ще подсигурява, че най-мощният A.I. технологиите принадлежаха само на най-големите софтуерни компании. И в случай че тези системи в последна сметка надвишават силата на човешкия мозък, както някои A.I. откривателите имат вяра, че ще го създадат, законопроектът ще консолидира властта в ръцете на няколко корпорации.

„ Тези организации ще имат повече власт от която и да е страна - всяко образувание от всевъзможен тип. Те ще управляват неестествен супер разсъдък “, сподели господин Хауърд. „ Това е рецепта за злополука. “

Други настояват, че в случай че не се разреши създаването с отворен код да процъфтява в Съединените щати, тя ще се насочи към други страни, в това число Китай. Решението, настояват те, е да се контролира по какъв начин хората употребяват A.I. вместо да контролира основаването на главната технология.

„ A.I. е като кухненски нож, който може да се употребява за положителни неща, като рязане на лук, и за неприятни неща, като намушкане на човек, ” сподели Себастиан Трун, ИИ. откривател и сериен бизнесмен, който основа плана за самоуправляващи се коли в Гугъл. „ Не би трябвало да се опитваме да сложим комутатор за изключване на кухненски нож. Трябва да се опитаме да попречим на хората да го употребяват погрешно. “