Силициевата долина се вълнува заради калифорнийския законопроект за безопасността на изкуствения интелект

Тежка категория в региона на изкуствения разсъдък в Калифорния стачкуват против щатски законопроект, който ще принуди софтуерните компании да се придържат към строга рамка за сигурност, в това число основаване на „ комутатор за изключване “, с цел да изключат своите мощни AI модели, в възходяща борба за регулаторен надзор върху авангардни технологии.

Калифорнийският законодател обмисля оферти, които биха въвели нови ограничавания върху софтуерните компании, работещи в щата, в това число трите най-големи AI start- ups OpenAI, Anthropic и Cohere, както и огромни езикови модели, ръководени от огромни софтуерни компании като Meta.

Законопроектът, признат от Сената на щата предишния месец и избран за гласоподаване от общото заседание през август, изисква групите за ИИ в Калифорния да подсигуряват на новосъздадения държавен орган, че няма да създават модели с „ рискова дарба “, като да вземем за пример основаване на биологични или нуклеарни оръжия или подкрепяне на офанзиви против киберсигурността.

От разработчиците ще се изисква да рапортуват за своите проби за сигурност и да вкарат по този начин наречения комутатор за изключване, с цел да изключат своите модели, според оферти Закон за безвредни и сигурни нововъведения за гранични системи с изкуствен интелект.

Но законът се трансформира в центъра на отрицателната реакция от мнозина в Силициевата котловина заради изказванията, че ще принуди започващите AI компании да изоставен щата и ще попречи на платформи като Meta да работят с модели с отворен код.

„ Ако някой искаше да измисли регулации, с цел да задуши нововъведенията, надали би могъл да направи по-добре “, сподели Андрю Нг, прочут компютърен академик, който управлява планове за изкуствен интелект в Гугъл на Alphabet и Baidu в Китай и който седи на Бордът на Amazon. „ Това основава големи отговорности за опасности от научната фантастика и по този начин провокира боязън във всеки, който се осмелява да прави нововъведения. “

Бързият напредък и големият капацитет на AI провокира опасения по отношение на сигурността на технологията, като милиардерът Илон Мъск, ранен вложител в основателя на ChatGPT OpenAI, я назова „ екзистенциална опасност “ за човечеството предходната година. Тази седмица група от сегашни и някогашни чиновници на OpenAI разгласява отворено писмо, в което предизвестява, че „ граничните AI компании “ нямат задоволителен контрол от страна на държавните управления и съставляват „ съществени опасности “ за човечеството.

Калифорнийският законопроект беше съ-спонсориран от Центъра за сигурност на ИИ (CAIS), основана в Сан Франциско организация с нестопанска цел, ръководена от компютърния академик Дан Хендрикс, който е консултант по сигурността на стартъпа на Мъск за ИИ, xAI. CAIS има тесни връзки с придвижването за ефикасен алтруизъм, което стана известно от хвърления в пандиза изпълнителен шеф на криптовалута Сам Банкман-Фрайд.

Щатският сенатор от Демократическата партия Скот Винер, който показа законодателството, сподели: „ По принцип желая AI да успее и нововъведенията да продължат, само че дано се опитаме да изпреварим всевъзможни опасности за сигурността. “

Той добави, че това е „ лека банкнота . . . който просто изисква от разработчиците, учащи големи модели, да правят съществени оценки на сигурността, с цел да разпознават огромни опасности и да подхващат рационални стъпки за намаляване на тези опасности. разработчици, изключително в по-малки AI компании. Противниците също по този начин настояват, че законопроектът се концентрира върху хипотетични опасности, които прибавят „ извънреден “ риск от отговорност за създателите.

Сред най-яростните рецензии е, че законопроектът ще навреди на моделите на изкуствен интелект с отворен код - в които разработчиците вършат първоначален код свободно налични за обществеността, което разрешава на разработчиците да надграждат върху тях - като водещия LLM на Meta, Llama. Законопроектът ще направи разработчиците на отворени модели евентуално виновни за неприятни артисти, които манипулират техните модели, с цел да причинят щета.

Arun Rao, водещ продуктов управител за генериращ AI в Meta, сподели в обява на X предходната седмица, че законопроектът беше „ неосъществим “ и щеше „ да постави завършек на отворения код в [Калифорния]. “

„ Нетното данъчно влияние от унищожаването на промишлеността на изкуствения разсъдък и прогонването на фирмите може да бъде в милиарди, защото както фирмите, по този начин и високоплатените служащи напущат “, добави той.

Винер сподели за рецензиите: „ Това е софтуерният бранш, той не обича да има никаква регулация, тъй че за мен въобще не е изненадващо, че ще има отбиване. “

Някои от отговорите бяха „ не изцяло точни “, сподели той, добавяйки, че възнамерява да направи промени в законопроекта, които да изяснят неговия обсег.

Предложените промени показват, че разработчиците на отворен код няма да носят отговорност за модели, „ които претърпяват доста фини настройки “, което значи, че в случай че модел с отворен код е задоволително персонализиран от трета страна, той не е по-дълго отговорността на групата, направила истинския модел. Те също по този начин декларират, че условието за „ комутатор за изключване “ няма да се ползва за модели с отворен код, сподели той.

Друго изменение гласи, че законопроектът ще се ползва единствено за огромни модели, „ чиито костват минимум $100 милиона за образование “, сподели той. и затова няма да повлияе на множеството по-малки започващи компании.

„ Има този конкурентен напън, който визира тези организации с ИИ, които главно ги подтикват да лимитират сигурността “, сподели Хендрикс от CAIS, добавяйки, че законопроектът е „ реалистични и рационални “, като множеството хора желаят „ някакъв главен контрол “.

И въпреки всичко старши рисков капиталист от Силиконовата котловина сподели, че към този момент изпращат запитвания от създатели, питащи дали ще би трябвало да изоставен щата вследствие на евентуалното законодателство.

„ Моят съвет към всеки, който пита, е да останем и да се борим “, сподели индивидът. „ Но това ще охлади отворения код и започващата екосистема. Мисля, че някои създатели ще изберат да изоставен. ”

Правителствата по целия свят подхващат стъпки за контролиране на ИИ през последната година, защото технологията процъфтява в известност.

Президентът на Съединени американски щати Джо Байдън вкара изпълнителна заповед през октомври, която има за цел да откри нови стандарти за сигурност на AI и национална сигурност, да отбрани жителите против опасности за поверителността на AI и битка с алгоритмичната дискриминация. През април държавното управление на Обединеното кралство очерта проекти за разработване на ново законодателство за контролиране на изкуствения разсъдък.

Критиците са комплицирани по отношение на скоростта, с която калифорнийският законопроект за изкуствения разсъдък се появи и мина през Сената, управителен от CAIS.

По-голямата част от финансирането за CAIS идва от Open Philanthropy, основана в Сан Франциско благотворителна организация с корени в придвижването за ефикасен алтруизъм. Той даде безплатни средства на стойност към $9 милиона на CAIS сред 2022 и 2023 година, в сходство с неговата „ фокусна област на евентуални опасности от модернизиран изкуствен интелект “. CAIS Action Fund, поделение на организацията с нестопанска цел, която беше основана предходната година, записва първите си лобисти във Вашингтон през 2023 година и е похарчила почти $30 000 за лобиране тази година.

Wiener е получила финансиране от богати рисков капиталист Рон Конуей, ръководещ сътрудник на SV Angel и вложители в започващи AI компании, през редица изборни цикли.

Райид Гани, професор по изкуствен интелект в колежа Хайнц на университета Карнеги Мелън, сподели, че има „ известна несъразмерна реакция “ към законопроекта, добавяйки, че всяко законодателство би трябвало да се концентрира съответно върху случаите на потребление на технологията, вместо да контролира развиването от модели.