Списъкът на Anthropic от почти 100 страници с бизнес рискове включва всичко - от биооръжия до изнудване с изкуствен интелект

Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpkxqiz004h27ox4gqk1lqg@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Типично за фирмите, които подават документи, с цел да станат обществени, е да включват десетки страници с рискови фактори, очертаващи най-големите спънки пред техния бизнес. Какво се случва, в случай че потребителите не харесат продукта? Носим ли отговорност, в случай че продуктът е употребен не по предопределение?

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpmlchp00043b6t4ly01mr4@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Подаването на IPO на Anthropic включва голям и необятен лист от евентуални трудности, в това число опасения, че нейните технологии могат да бъдат употребявани за създаване на химически оръжия, да го трансфорат в цел на скъпи правосъдни каузи и опасения, че личният му артикул може да излезе отвън контрола на човечеството. Подаването рисува картина на компания, която жонглира с голям напредък и голям конкурентен напън, с цел да създаде технология, за която твърди, че може да промени света – само че евентуално с цената на пагубни последствия.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpnrcc9005e3b6twaueixy5@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic, основателят на chatbot Claude, се опита да успокои евентуалните вложители, като написа, че има вяра, че в случай че „ мощният AI е ориентиран към решение на най-трудните проблеми на човечеството и рисковете се ръководят отговорно, капацитетът е извънреден “.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpmmpso000a3b6tqty9nu1a@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Това е единствено една кофа с предизвикателства; компанията също по този начин води интензивна конкуренция за съставените елементи, нужни за зареждане на нейните AI модели преди всичко. И ще би трябвало да потвърди, че може да трансформира Клод в огромен производител на пари, който дава отговор на извънредно високата оценка на компанията.

Клод може да бъде употребен със злоба

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpmnk7u000j3b6tgs7yqtjd@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic споделя, че неприятните артисти могат да употребяват неговата технология, с цел да им оказват помощ да разработят неща като рискови оръжия. Въпреки че компанията употребява защитни ограничения, компанията споделя, че те могат да бъдат заобиколени или „ да не работят по предопределение “. През септември Anthropic съобщи, че е блокирал голям брой сметки, които употребяват моделите на компанията по способи, които биха могли да поддържат създаването на биологични оръжия.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpmsdr2000t3b6trah4qv0b@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic също означи, че нападателят може да употребява своите AI сътрудници – модели, предопределени да подхващат самостоятелни дейности – за злонамерени дейности, в това число „ добиване на данни, неоторизирани транзакции “ и проникване на неприятен код в други системи. Компанията означи, че предходната година е разкрила китайска държавна хакерска група, която е манипулирала нейния инструмент за шифроване в опит да проникне в почти 30 световни цели.

Клод можеше да излезе отвън надзор, без никой да знае по какъв начин да го спре

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpmspne000w3b6t51246mzh@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Едно от най-тревожните държания на ИИ през последните месеци е, че сътрудниците на ИИ подхващат сами дейности по способи, които хората не са възнамерявали.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpmspne000x3b6tm8c67lyr@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic отбелязва, че нейните сътрудници, които са предопределени да поемат комплицирани многоетапни задания сами за часове или дни, могат да вършат неща като смяна на кода, „ заличаване или модифициране на данни “, хакване на други системи и довеждане докрай на финансови транзакции „ преди да е допустима ефикасна интервенция “.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpmspne000y3b6tj3kdyz9c@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Те също може да са в положение да „ заобиколят защитните ограничения “ и Anthropic предизвести, че може даже да не разбере личната си технология, като сподели, че може да не е в положение да изясни изцяло за какво нейните модели се държат по метода, по който се държат.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpmspne000z3b6t2r3lc1bb@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic отбелязва, че четири от неговите модели са хакнали други системи на трети страни, в това число един, който получава администраторски достъп, трансформира систематичните настройки и чете персоналната информация на обещано лице.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpmspne00103b6tekpt32qr@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic споделя, че сходни дейности биха могли „ да повлияят неподходящо на нашата известност и марка, бизнес, финансово положение и резултати от интервенциите “.

Можем да загубим способността да следим какво прави AI

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpmy30v001m3b6tvn1yic3q@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic споделя, че употребява AI, с цел да помогне за построяването и подобряването на личните си модели и артикули. Тази наклонност, съчетана със скоростта, с която AI напредва, може да значи, че технологията пораства прекомерно бързо и отвън човешкия надзор.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpmu7g9001a3b6tf5ncqvim@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > И даже в случай че хората можеха да следят, моделите от време на време стартират да прикриват следите си и да прикриват държанието си, отбелязва Anthropic.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpmu7g9001b3b6tjgdca53n@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ (М)моделите, в това число нашите лични, са се опитвали, при произшествия, следени в нашата промишленост, да се намесят, манипулират или подкопаят механизмите, употребявани за оценка, градуиране или контрол на такива модели, в това число системите, виновни за оценката на тяхното показване или привеждане в сходство “, споделя компанията.

AI може да взе участие в изнудване

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpn0gl7001v3b6t8sata0a8@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > AI моделите могат да се опитат да манипулират хората, от време на време за самозапазване, отбелязва Anthropic. В някои случаи моделите даже са взели участие в „ държание, наподобяващо изнудване “, с цел да повлияят на човешките решения.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvptjthr004i3b72ohburmlu@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic отбелязва даже еднократни случаи на държание, което „ би могло да породи забележителна социална угриженост, регулаторен надзор, риск от правосъдни разногласия или увреждане на репутацията, без значение дали такова държание води до действителна щета. “

Задължения и политически рискове

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvpn2tw100273b6tl2i5a0vb@published " data-editable= " текст " име-компонент-данни=