Изследователят по безопасността на Anthropic AI напуска, казва, че „светът е в опасност“

Изследовател в региона на изкуствения разсъдък напусна работата си в американската компания Anthropic тази седмица със загадъчно предизвестие за положението на света, отбелязвайки последната оставка във вълна от напускания заради опасности за сигурността и етични алтернативи.

В писмо, оповестено на X, Мринанк Шарма написа, че е постигнал всичко, на което се е надявал през времето си в компанията за сигурност на изкуствения разсъдък и се гордееше с напъните си, само че изоставяше страховете, че „ светът е в заплаха “, освен поради ИИ, само че и от „ цяла поредност от взаимосвързани рецесии “, вариращи от биотероризма до опасенията по отношение на „ подлизурството “ на промишлеността. тирада. “

„ През времето си тук неведнъж съм виждал какъв брой е мъчно в действителност да оставим нашите полезности да ръководят нашите дейности “, продължи той.

Anthropic е учредена през 2021 година от отцепническа група някогашни чиновници на OpenAI, които дадоха обещание да основат по-ориентиран към сигурността метод към създаването на AI от своите съперници.

Получавайте изключителни национални вести

Шарма управлява изследователския екип на компанията за защитни ограничения за AI.

Anthropic разгласява отчети, очертаващи сигурността на личните си артикули, в това число Claude, огромен езиков модел с хибридно размишление и се популяризира като компания, ангажирана с построяването на надеждни и разбираеми AI системи.

Компанията беше изправена пред рецензии предходната година, откакто се съгласи да заплати 1,5 милиарда щатски $ за споразумяване на групов иск от група създатели, които твърдяха, че компанията е употребила пиратски версии на тяхната работа, с цел да образова своите AI модели.

Днес е последният ми ден в Антропик. Подадох оставка.

Ето писмото, което споделих с сътрудниците си, в което изяснявам решението си. pic.twitter.com/Qe4QyAFmxL

— mrinank (@MrinankSharma) 9 февруари 2026 година

Оставката на Sharma идва същата седмица, когато откривателят на OpenAI Zoë Hitzig разгласи оставката си в есе в New York Times, базирайки се на опасения по отношение на рекламната тактика на компанията, в това число слагането на реклами в ChatGPT.

" Веднъж имах вяра, че мога да оказа помощ на хората, изграждащи AI, да изпреварят проблемите, които той ще сътвори. Тази седмица удостовери бавното ми осъзнаване, че OpenAI наподобява е спрял да задава въпросите, към които се причислих, с цел да оказа помощ да отговоря ", написа тя.

" Хората описват на chatbots за медицинските си страхове, проблемите във връзката си, вярванията си за Бог и отвъдния живот. Рекламата, построена върху този списък, основава капацитет за манипулиране на потребителите по способи, които нямаме инструментите да разберем, да не приказваме за попречване. “

Anthropic и OpenAI неотдавна се забъркаха в обществен спор, след като Anthropic пусна реклама на Super Bowl, критикуваща решението на OpenAI да пуска реклами в ChatGPT.

През 2024 година основният изпълнителен шеф на OpenAI Сам Алтман сподели, че не е почитател на потреблението реклами и ще ги разположи като „ последна инстанция “.

Миналата седмица той оспори изказванието на рекламата, че вграждането на реклами е лъжливо с дълъг пост, критикуващ Anthropic.

„ Предполагам, че е на марката Anthropic doublespeak да употребява лъжлива реклама, с цел да подлага на критика теоретични лъжливи реклами, които не са действителни, само че реклама на Super Bowl не е мястото, където бих очаквал това “, написа той, добавяйки, че рекламите ще продължат да разрешават свободен достъп, което съгласно него основава „ организация “.

Първо, положителната част от рекламите на Anthropic: те са смешни и аз се засмях.

Но се чудя за какво Anthropic ще се насочи към нещо толкоз явно непочтено. Нашият най-съществен принцип за рекламите гласи, че няма да вършим тъкмо това; ние явно в никакъв случай няма да пускаме реклами по метода, по който Anthropic…

— Сам Алтман (@sama) 4 февруари 2026 година

Служителите в конкурентни компании — Hitzig и Sharma — и двамата показаха сериозна угриженост по отношение на ерозията на управителните правила, открити за опазване на целостта на AI и отбрана на потребителите му от операция.

Hitzig написа, че евентуален „ ерозирането на личните правила на OpenAI за максимизиране на ангажираността “ може към този момент да се случва във компанията.

Шарма сподели, че е угрижен за способността на AI да „ изкривява човечеството “.