Anthropic казва, че е попречил на учените, използващи Claude AI за възможно разработване на биологични оръжия

Anthropic съобщи в четвъртък, че е блокирал учени, които са употребявали неговите модели Claude AI „ по способи, които биха могли да поддържат създаването на биологични оръжия. “

Разкритието беше споделено в дълъг доклад, който също разкрива други нездравословни действия, включващи наблюдаване, измами, създаване на стандартни оръжия и агитация. Случаите в отчета са образци за „ най-забележителната и нова опасност “, разпозната от Anthropic до момента, сподели компанията. Актьорите на закани включват нарушители, обвинени държавно спонсорирани групи, снабдители на шпионски програмен продукт и държавни пропагандни институции, се споделя в отчета.

Anthropic показа пет случая, включващи активност, която има капацитет да подкрепи създаването на биологични оръжия. Той назова биологичната корист „ един от най-сериозните опасности на граничните модели на ИИ “. 

Компанията сподели, че разпознатите случаи „ дават доказателства за опциите “ на моделите на AI, само че „ не могат съответно да показват, че такава дарба в миналото ще бъде употребена за създаване на биологични оръжия в действителния свят. “

Хората, участващи в тези случаи, са работещи учени, които Anthropic избра да не разпознава. Компанията сподели, че не може да „ твърди, че са възнамерявали да навредят. “

„ Когато открихме и разследвахме тези случаи, забранихме сметките на потребителите и включихме нашите открития от следствието в нашите защитни ограничения, правоприлагане и процеси за разузнаване на закани, с цел да предотвратим, открием и прекъснем по-добре тези действия в бъдеще “, се споделя в отчета. 

Последните, по-усъвършенствани модели като Claude Fable 5 съдържат по-силни защитни ограничения от по-ранните модели и лимитират достъпа до „ необятен набор от запитвания за биологични проучвания с двойна приложимост “, се споделя в отчета, като се отбелязва, че биологичните качества на AI могат да се употребяват както за потребни, по този начин и за нездравословни цели. 

„ Същата информация, която може да се употребява за създаване на биологично оръжие, може да се употребява и за създаване, да вземем за пример, на ваксина или лек за болест “, сподели компанията.

Пропаганда и наблюдение 

Anthropic също по този начин сподели, че е идентифицирала и премахнала сметки, употребяващи Claude за акции за интервенции за въздействие, с цел да оформят публичното мнение, в това число три акаунта, свързани с иранската страна. 

В тези случаи всяка интервенция е ръководена от артист, работещ в границите на или от името на иранска държавна пропагандна институция, сподели компанията. Claude беше употребен за създаване на наличие, правене на изявления да наподобяват като от самостоятелни новинарски източници и за разпространяване на наличие в обществени медийни платформи като X, Instagram и TikTok. 

Един участник в опасността за връзката с Иран употребява Клод, с цел да създаде рекомендации за ориентиране против военноморските сили на Съединени американски щати в района, сподели Anthropic. Същият акаунт е проектирал програмен продукт за вътрешна платформа за всеобщо наблюдаване за ирански държавни системи.

Клод също е употребен за създаване и осъществяване на интервенции за наблюдаване от участници в Китай и Западна Африка, а в някои случаи и за идентифициране на цели. Anthropic съобщи, че е разпознал случаи, при които AI е бил употребен вместо инженерна работна мощ.

В Китай три акаунта, свързани с общинската работа за сигурност на КНР, са употребявали Claude за наблюдаване и транснационални репресии, в това число общинско бюро, което профилира деятели и организации в чужбина.

© 2026 CBS Interactive Inc. Всички права непокътнати.

Anthropic разкрива различен хакерски случай с изкуствен интелект, четвъртият по рода си

(05:03)

Авторско право ©2026 CBS Interactive Inc. Всички права непокътнати.