Anthropic казва, че нейните AI модели представляват „екзистенциален риск за човечеството“ в изтекла информация за IPO: доклад

Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmumn0t6k002128nr22hba7k7@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic споделя, че неговите AI модели могат да съставляват „ пагубен или екзистенциален риск за човечеството “ и могат да „ устоят на прекъсване “, съгласно проспект за в началото обществено предложение, получен от Ройтерс.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmumq6h9d000q3b6q7jt4lj7j@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic възнамерява IPO някъде през идната година, като мнозина чакат да оценят петгодишната компания на почти 2 трилиона $. Дебютът на компанията на Уолстрийт ще последва общественото предложение през юни на SpaceX, която дължи огромна част от оценката си от 2 трилиона $ в деня на отваряне на личните си старания в региона на ИИ. OpenAI, другата водеща американска компания за изкуствен интелект, разгласи проекти за лично обществено предложение.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmumphbjc003l3b6q7ft0brqq@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > IPO-то на Anthropic може да събере десетки милиарди долари за жадната за пари компания. Но компанията зад Claude също предизвести в проспекта, че нейните AI модели могат да имат „ самосъхраняващо се държание “ и да са се пробвали да „ прикрият или манипулират информация “ и да вземат участие в държание, „ наподобяващо изнудване “ съгласно отчета.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmumqa2qk001c3b6qwsi924v6@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Публичните предлагания на AI освен дават късмет на самостоятелните и институционалните вложители да завоюват от взрива на AI, само че също по този начин обезпечава повече бистрота за техния бизнес. И въпреки всичко IPO-тата идват на фона на възходящи опасения по отношение на напредъка и опциите на AI.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmumqhh6x001t3b6qr9is5npx@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Агент с изкуствен интелект от OpenAI, основният противник на Anthropic, е проникнал в база данни за опазване на здравето в Австралия, разкри министър председателят на страната предходната седмица. OpenAI също разкри в петък, че нейните сътрудници са изследвали три уеб страницата на държавното управление на Съединени американски щати без позволение, само че в този случай не са получили непублични данни.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmumo99ap00093b6qdhh16lde@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > В проспекта фирмите нормално оферират на вложителите описи с рисковете, пред които са изправени, като правосъдни каузи и конкурентен напън, когато излагат причините за вложение в компанията. Но заплахите в никакъв случай не са толкоз огромни. Anthropic посвети 80 страници на своите рискови фактори в изтеклия проспект, доста повече от 48 страници, които отдели за в детайли изложение на бизнеса си, съгласно Reuters.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmumplih9003t3b6qkki4qskd@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic не отговори на искане за коментар от CNN.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmumobt19000p3b6q4e14l4th@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Проспектът евентуално ще подхрани възходящите опасения по отношение на рисковете, които AI съставлява за човечеството. По-рано този месец някогашният откривател на Anthropic Джейкъб Коксън получи необятно внимание, когато напусна компанията и разгласява на X, че „ хората, които основават AI, откровено имат вяра, че той може да убие всички ни до края на десетилетието “.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmumolaqu001c3b6qs73e8mef@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic е една от водещите компании в създаването на AI и нейният основен изпълнителен шеф Дарио Амодей отговори на обявата на Coxon с есе от 3800 думи, призоваващо за закъснение и парапети на развиването на AI. Той също сподели на Андерсън Купър от CNN, че е склонен с Коксън повече, в сравнение с несъгласен. Амодей написа в своето есе, че рисковете са съществени, даже в случай че изгодите могат да трансформират човечеството към по-добро.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmumpjfqc003q3b6qkksqx99f@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Някои в промишлеността обаче, в това число основният изпълнителен шеф на Hugging Face, който беше продънен от AI моделите на OpenAI, когато действаха без позволение по време на тест, считат, че страховете са пресилени.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmumsn87e000b3b6qjv11pyoa@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Президентът Доналд Тръмп е на път да се срещне с ръководители от промишлеността във вторник, в това число Amodei, на среща на върха, ориентирана към реализиране на консенсус в промишлеността. Тръмп неведнъж се е съпротивлявал на апелите за контролиране на ИИ и е отхвърлил опасенията като „ машинация “.

4 минути четене <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmumneri4000x3b6qfyymr7ip@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > AI колосите би трябвало да съберат огромна сума пари, с цел да финансират скъпите си проекти за развиване, а големите разноски за AI измежду огромните софтуерни компании за компютърна инфраструктура и гении провокираха нерви в Wall Street.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmummpm0c5003x3b6qw29lhidn@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Изтеклата IPO-документация на Anthropic хвърля светлина върху нейните финанси, разкривайки, че компанията е изгубила 42 милиарда $ през 2025 година, съгласно Reuters. Компанията възнамерява да похарчи 518 милиарда $ за облачни калкулации и инфраструктурни отговорности през идната година и сподели, че близо една четвърт от приходите й предходната година са пристигнали от двама клиенти.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmumpl8k9001p3b6rrem6xlt7@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic последно беше оценен на 965 милиарда $ през май.

ПРИСЪЕДИНЕТЕ съдебна експертиза КЪМ СПЕСТЯВАНЕТО НА CNN

Регистрирайте се тук за деветседмичното предизвикателство за спестявания на CNN. Jeanne Sahadi от CNN доставя бюлетин всеки петък със препоръки за икономисване, експертни отговори на вашите въпроси и провокации, с цел да ви помогне да постигнете спестяванията си. Вижте всички тематики Връзката е копирана! Следвайте