Защо Anthropic е обсебен от екзистенциалния риск
Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmwavvl21000x27nh9w0cad2f@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Историята на основаването на Anthropic е централна за нейното показване на продажбите преди всичко за сигурността: Имало едно време шепа идеалистични откриватели избягали от OpenAI, с цел да стартират своя лична компания – такава, която да развива изкуствения разсъдък по по-отговорен метод.
<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmwjh3hsm00043b6tqw6rwdq2@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Пет години по-късно тази компания е на път да стане първата по рода си, която ще стане обществена в едно от най-големите първоначални обществени предлагания в историята. Anthropic се насочва към оценка от 1,4 трилиона $, когато стартира да търгува тази седмица, което би я сложило тъкмо зад рекордната оценка на SpaceX от 1,7 трилиона $ от IPO-то през юни. <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmwjmc6mo00783b6tlonk6a7k@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Голяма част от корпоративното пътешестване на Anthropic е нетипично. Но доста от странностите му могат да бъдат разбрани през призмата на две свързани метафизичен придвижвания, известни като „ ефикасен алтруизъм “ и „ дълготраен проект “, които станаха изключително известни измежду AI запалянковците в Силиконовата котловина. Слабо дефинирана етична рамка, ефикасният алтруизъм се концентрира върху потреблението на математика и логичност за максимизиране на въздействието на благотворителните дарения. <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmwkt6w4700003b6t965klq6p@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Дългосрочността постулира, че благосъстоянието на бъдещите генерации е „ основен честен приоритет на нашето време “, както го споделя Уилям Макаскил, оксфордският мъдрец, който разпространява термина. <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmwjveal400lv3b6txv97elzb@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Ако е вероятен пагубен риск от AI – както Anthropic неведнъж е твърдял – тогава съгласно мнението е значимо „ положителните момчета “ да управляват технологията. И в случай че изкуственият разсъдък е в положение да отприщи световна химера, би било тъпо да чакаме. <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmwjkw251003b3b6t4td8gux1@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Загрижеността на Anthropic за сигурността е основополагаща: основният изпълнителен шеф Дарио Амодей поведе напускането на OpenAI през 2020 година поради това, което по-късно разказа като липса на доверие в Сам Алтман от OpenAI. Думата „ сигурност “ се появява повече от 250 пъти в проспекта на IPO от над 300 страници; то се записва като корпорация в социална изгода, което го задължава правно да балансира сред ползите на акционерите и благосъстоянието на обществото; и неговият маркетинг се опира на репутацията му на добър човек на AI. <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmwjh3hsm00073b6tvt4dpetz@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Разбира се, всичко зависи от това дали обществеността има вяра или не, че Anthropic - или някой от многото му съперници в промишлеността - са положителните момчета. Това е вяра, която може да е по-трудно да се внуши на фона на следствията от създателя и дълготраен основен изпълнителен шеф на Nvidia, Дженсън Хуанг, който подаде оставка предходната седмица, откакто призна за две афери - една с зависещ в компанията и друга с жена, за която американски чиновници споделят, че може да работи с китайските разследващи организации.
5 минути четене <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmwjh3hsm00083b6tm7c97dh4@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Много зависи от създателите... Те хора с добра преценка ли са? “ сподели Лейф Уенар, професор по философия в Станфордския университет и изтъкнат критик на ефикасния алтруизъм, в изявление. „ Мисля, че всички би трябвало да помислим какъв брой огромна част от нашето бъдеще зависи от характера на някой, който мисли, че единствено той може да избави света от нещото, което е основал. “
Връзките на Anthropic с EA
<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmwjh3hsm000b3b6txxid0gpy@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic и неговите създатели се пробваха да се дистанцират от ефикасния алтруистичен лейбъл през последните години – изключително откакто най-известният му фигурант, някогашният крипто магнат Сам Банкман-Фрид, беше наказан на 25 години затвор след колапса на неговата борса FTX. Но някои чиновници на Anthropic имат добре открити връзки с ранните години на придвижването през 2010 година <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmwjmzbma00az3b6tygj8i2pq@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Амодей беше един от най-ранните подписали обещанието Giving What We Can Pledge, ангажимент за даряване на 10% или повече от приходите си на благотворителни групи през 2010 година Това заричане беше основано от MacAskill и различен професор от Оксфорд, на които се приписва, че са основали термина „ ефикасен алтруизъм “. Амодей също написа в блог за решението си, като студент в Принстън, да подари $10 000 посредством GiveWell, организация с нестопанска цел, обвързвана с EA, която има за цел да прави оценка благотворителните организации въз основа на успеваемостта на разноските. <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmwjmz1u800au3b6t381hn5gu@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Амодей сподели пред New York Times през 2023 година, че е „ симпатизиращ “ на концепциите за ефикасен алтруизъм, само че е срещу „ разделянето на хората на племена “. Неговата съоснователка и сестра, Даниела Амодей, сподели пред Wired предходната година, че не е специалист по ефикасен алтруизъм и не се „ разпознава с тази терминология “, макар че е омъжена за Холдън Карнофски, съоснователят на GiveWell, който се причисли към екипа по сигурност на Anthropic през 2025 година Аманда Аскел, резидентен мъдрец на Anthropic, отговарящ за преподаването на неговия чатбот, Клод, с цел да работи морално, е изтъкнат откривател на етиката, който е съдействал за изявления на EA и преди е бил женен за MacAskill. <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmwjh3hsm000c3b6tribrgmka@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Много от ранните вложители на Anthropic също идват от кръговете на EA. Преди да бъде задържан, Bankman-Fried насочи 500 милиона $ към зараждащия се AI стартъп през 2021 година Друг ранен вложител на Anthropic беше съоснователят на Фейсбук и филантропът Дъстин Московиц, който дружно със брачната половинка си насочи към 8 милиарда $ към свързани с EA дела като „ малария и отравяне с олово, и да се приготви за зараждащи закани като смъртоносни пандемии и все по-мощен AI системи. ” <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmwjh3hsn000e3b6ttlxlm5m9@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic, която предстои на наложителен спокоен интервал преди борсовия си дебют, отхвърли коментар. <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmwjh3hsn000g3b6tetugzzyc@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Движението има доста критици, които споделят, наред с други неща, че отдадеността на EA на безпристрастни, безпристрастни калкулации на общественото богатство може да го направи кьорав за бъркотията на системите на човешко равнище, които се пробва да усъвършенства. <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmwjh3hsn000i3b6t6xl54qjy@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Уенар, философът от Станфорд, сподели, че въпреки да няма причина да слага под подозрение морала на създателите на Anthropic, той като цяло се тревожи за „ настройката на ЕА “, която постоянно вижда в своите възпитаници. <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/pa