Anthropic казва, че е блокирал възможните опити за използване на AI за разработване на биологични оръжия

Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvuxon1001y27p9coz4fd36@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic споделя, че е блокирала голям брой сметки, които са употребявали моделите на изкуствения разсъдък на компанията по способи, които биха могли да поддържат създаването на биологични оръжия.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvy3zwp00013b6w0qo3ps3c@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > В отчет, оповестен в четвъртък, компанията за изкуствен интелект, известна със своя модел Claude, съобщи, че смята биологичната корист за един от „ най-сериозните опасности “ за моделите с изкуствен интелект.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvy3zwp00023b6wdif3lmvi@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Новият отчет обрисува пет проблема от действителния живот, в които потребителите „ заобикалят контролите “, които блокират консуматори от избрани райони и „ се ангажират с други старания да замъглят задачата на своите проучвания, с цел да избегнат нашите защитни ограничения “. Примерите включват вероятни проучвания за увеличение на функционалността и включват както инфекциозни болести, като птичи грип, по този начин и нови токсини и отрови.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvy3zwp00033b6wyhusngql@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Разглеждайки над 30 дни активност, Anthropic сподели, че разпознава към 35 „ обособени проучвателен старания “ с евентуално тревожна активност. Той обаче призна, че не може да бъде несъмнено дали участниците са „ възнамерявали да навредят “ или са провеждали проучвания за законни научни цели. Anthropic сподели, че лицата в въпросите са били „ работещи учени “, само че не разпознава изследователските институции или страните, в които са се правили дейностите.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtw11r3600003b6wps59tijn@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Сложните офанзиви към този момент не изискват комплицирани нападатели “, се споделя в новия отчет. „ Уменията за киберсигурност на моделите с изкуствен интелект значат, че изкуственият разсъдък е сринал дефицита на работна ръка и принадлежности, който преди разделяше добре финансираните, спонсорирани от страната интервенции от обособените оператори. “

4 минути четене <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtw1908s00043b6wgrnbds67@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Един от въпросите, в детайли разказани в отчета, включваше искане за подпомагане при написването на заявление за безплатна помощ за финансиране на проучване за увеличаване на функционалността по отношение на предаваемостта и избягването на имунитета на вируса чикунгуня.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtw1g78g000l3b6w7xo1rpby@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > В различен случай откривател отвън Съединени американски щати употребява Клод за работа върху птичия грип, който се концентрира върху адаптирането на вирусите към бозайниците и по какъв начин предизвиква тежко заболяване.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtw1np5i00103b6wr6ql5jez@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Докладът също по този начин разказва случаи на проучване на ортопоксвируси – група, която включва вариола, която предизвиква едра шарка, и mpox – както и отровни отрови.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvy3zwp00043b6wz4ao962u@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Разработването на медикаменти се смята за едно от най-обещаващите и оптимистични приложения на ИИ; водачите в промишлеността постоянно показват капацитета му да лекува рак и други болести. Но същите функционалности, които вършат AI мощен за разкриване на нови материали и медикаменти, с цел да помогне на хората, също могат да го създадат потребен за създаване на биологични оръжия в ръцете на неприятни артисти.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvyg1zu000k3b6rnrj04cjs@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic сподели, че желае неговите модели да бъдат потребни за научни проучвания, само че най-новите модели са способни на доста по-сложна работа от по-ранните версии - и капацитетът за корист нараства с евентуалните изгоди. Той добави, че неприятните артисти могат да се опитат да употребяват потребните биологични използва на ИИ, с цел да „ поддържат един тип „ правдоподобно отказване “ “ по отношение на евентуално нездравословни проучвания.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvy3zwp00053b6wqs4pfg62@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Тъй като нашите модели стават все по-способни, доближавайки или надвишавайки експертното показване при предизвикателни научни задания, чакаме тяхното влияние единствено да се усили, както в потребен, по този начин и в евентуално нездравословен подтекст “, се споделя в отчета на Anthropic. „ Тъй като Al моделите стават все по-широко употребявани, доставчиците ще продължат да получават съответстваща за опасност видимост в действителна приложимост, която липсва даже на държавните управления и междуправителствените организации. “

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvy3zwp00063b6wysnjrw2x@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Компанията сподели, че последните модели, в това число Claude Fable 5, имат „ по-силни защитни ограничения, които лимитират достъпа до необятен набор от поръчки за биологични проучвания с двойна приложимост “.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvy3zwp00073b6w0pzlb9yc@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic сподели, че има доказателства, че защитните ограничения, които има, работят, само че че ще са нужни още по-стабилни системи за сигурност, защото моделите на AI и вероятните закани стават по-сложни. Компанията също по този начин означи в отчета, че е прекъснала опитите за потребление на нейните модели за интервенции по наблюдаване, измами и създаването на стандартни оръжия като дронове и ракети.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvy3zwp00083b6wu1cbnuu5@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Разкритието следва възходящ хор от предизвестия от чиновници на AI, които неотдавна са напуснали фирмите си заради опасения за сигурността. Някои споделиха угриженост, че технологията се движи прекомерно бързо и един ден ще изпревари способността на хората да я управляват - и приканиха държавните управления да обмислят по какъв начин да забавят развиването, в случай че нещата излязат отвън надзор.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvy3zwp00093b6wxp2v7zgx@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Ако екстраполирате в бъдещето, равнището на качествата на тези AI... те биха могли да причинят извънреден безпорядък “, сподели Джейкъб Коксън, някогашен чиновник на Anthropic, пред Андерсън Купър от CNN в сряда.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvz1b60000c3b6wkrny5vq1@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > В тематика за оставка на X тази седмица 27-годишният откривател на AI сподели, че „ хората, които построяват AI, откровено имат вяра, че той може да убие всички ни до края на десетилетието “.

4 минути четене <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvy3zwp000a3b6w63unu9uk@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Говорейки в сряда, Коксън сподели, че може да хакне сериозна инфраструктура - или да построи " биооръжия на равнище на изгубване ".

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvy3zwp000b3b6wanphtwr4@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Има доста способи, по които AI може да се задейства в света “, сподели той.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmtvy3zwp000c3b6w6rzu2ln5@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > През юли близо 1400 чиновници на AI компания подписаха отворено писмо, призоваващо държавното управление на Съединени американски щати да контролира технологията, с цел да овладее Big Tech и да забави темпото на AI, с цел да го гарантира