OpenAI се присъединява срещу законопроекта за безопасността на изкуствения интелект в Калифорния

OpenAI се опълчи на законопроекта за сигурност на изкуствения разсъдък в Калифорния, целящ да подсигурява, че мощният изкуствен интелект се внедрява безвредно, и допусна, че нови контроли биха заплашили растежа му в щата, присъединявайки се към лобиране в последния миг полуда от страна на вложители и AI групи да блокират законодателството.

Законопроектът, SB 1047, заплашва „ неповторимия статут на Калифорния като международен водач в региона на изкуствения разсъдък “, написа основният стратегически шеф на компанията Джейсън Куон в писмо до Скот Винер, сенатор от щата Калифорния, който оглавява законопроекта.

Това може да „ забави темпото на нововъведенията и да накара калифорнийските инженери и бизнесмени от международна класа да изоставен щата в търсене на по-големи благоприятни условия другаде ”, добави той.

SB 1047 раздели Силиконовата котловина. Въпреки че има необятно публикувано приемане на нуждата от ограничение на рисковете от новите мощни модели на ИИ, критиците настояват, че предложенията на Винер ще задушат започващите компании, ще облагодетелстват съперниците на Америка и ще подкопаят централната позиция на Калифорния в взрива на ИИ.

OpenAI е най-новата започваща компания, която се опълчва на детайли от законопроекта, и най-известната, значително с помощта на известността на своя чатбот ChatGPT и ангажимент от 13 милиарда $ от своя сътрудник Microsoft.

OpenAI поддържа разпореждания, с цел да се подсигурява, че AI системите се създават и внедряват безвредно, само че твърди в писмото, което беше обявено за първи път от Bloomberg, че законодателството би трябвало да пристигна от федералното държавно управление, не обособени щати.

В отговор в сряда Винер сподели, че е склонен, че федералното държавно управление би трябвало да поеме самодейността, само че е „ песимистичен “, че Конгресът ще работи. Той също по този начин подлага на критика „ изтощения мотив “, че софтуерните започващи компании ще се реалокират, в случай че законопроектът бъде признат, и сподели, че фирмите, основани отвън щата, към момента ще би трябвало да се преценяват със законопроекта, с цел да вършат бизнес на локално равнище.

Калифорнийският щат Събранието би трябвало да гласоподава законопроекта до края на месеца. Ако бъде утвърден, губернаторът Гавин Нюсъм ще реши дали да го подпише като закон или да му наложи несъгласие.

Технологичните групи и вложители от Силициевата котловина, в това число Anthropic, Andreessen Horowitz и YCombinator, ускориха лобистка акция против предложенията на Wiener за строга рамка за сигурност. Нанси Пелоси, някогашен ръководител на Камарата на представителите и представител на Калифорния, също разгласява изказване в опълчване на законопроекта предходната седмица, като го назова „ доброжелателен, само че зле осведомен “.

Сред най-спорните детайли в оригинала на сенатора предложенията бяха претенции фирмите за изкуствен интелект да подсигуряват на нов държавен орган, че няма да създават модели с „ рискови качества “ и да основат „ комутатор за изключване “, с цел да изключат своите мощни модели.

Противниците твърдяха, че законопроектът се концентрира върху хипотетични опасности и прибавя „ извънреден “ риск от отговорност на създателите.

Законопроектът беше променен, с цел да смекчи някои от тези условия предходната седмица, в това число ограничение гражданските отговорности, които в началото бяха наложени на разработчиците на AI и свиване на обсега на тези, които ще би трябвало да се придържат към разпоредбите.

Критиците обаче настояват, че законопроектът към момента натоварва започващите компании с тежки и от време на време нереалистични условия. В понеделник членовете на Камарата на представителите на Съединени американски щати Анна Ешоо и Зоуи Лофгрен написаха в писмо до Робърт Ривас, ръководител на Народното събрание на Калифорния, че „ към момента има основни проблеми с главната структура на законопроекта “, призовавайки вместо това „ да се концентрирайте върху федералните правила за управляват физическите принадлежности, нужни за основаването на тези физически закани. ”

Въпреки рецензиите от страна на водещи учени на ИИ като Фей-Фей Ли от Станфорд и Андрю Нг, който ръководеше планове за изкуствен интелект в Гугъл на Alphabet и китайския Baidu, законопроектът откри поддръжка измежду някои „ кръстници на изкуствения разсъдък “ като Джефри Хинтън от университета в Торонто и Йошуа Бенгио, професор по компютърни науки в университета в Монреал.

„ В последна сметка: SB 1047 е извънредно рационален законопроект, който изисква от огромните AI лаборатории да създадат това, което към този момент са се заели да създадат, а точно да тестват своите огромни модели за пагубен риск за сигурността “, написа Винер в сряда.