Anthropic забранява „злоупотребяващото или жестоко“ поведение спрямо своя модел Claude AI
Anthropic желае потребителите да вършат като Елвис Пресли и „ Не бъди нечовечен “.
Компанията от Силициевата котловина, която стои зад известния чатбот Claude, съобщи, че не разрешава „ продължителното и излишно злоупотребяващо или грубо държание “ по отношение на нейните модели с изкуствен интелект, част от по-широки промени в политиката, оповестени в четвъртък. В актуализация на уеб страницата си Anthropic сподели, че възбраната ще се ползва единствено в „ рискови случаи, когато потребителите неведнъж работят грубо по отношение на нашите модели, без забележима цел “.
Компанията обясни, че новата политика „ не се ползва за постоянно срещани версии на потребителско отчаяние, отбиване, тъмни креативен тематики или тестване и проучване на модели “. Новината беше обявена за първи път от The Verge.
Anthropic не отговори незабавно на искане за коментар по отношение на това какво съставлява „ корист “ или „ грубо “ държание по отношение на Клод или по какъв начин платформата за изкуствен интелект ще приключи диалог, в случай че консуматор наруши разпоредбите.
Компанията към този момент има въведени правила, които разрешават на Claude да приключва диалози, в случай че потребителите са „ непрекъснато нездравословни или злоупотребяващи “, до момента в който употребяват Claude Opus, който е предопределен за агентно шифроване.
Новата политика на Anthropic идва на фона на по-широк спор по отношение на съзнанието на AI. В есе, оповестено предишния месец, основният изпълнителен шеф на Microsoft AI Мустафа Сюлейман сподели, че Anthropic дейно „ образова Claude, че може да бъде умишлен “ и да мисли, че има право на законни права, предоставени на хората. Това ще направи изкуствения разсъдък по-труден за ограничение в бъдеще, твърди той.
„ Контролирането на нещо по-способно и по-интелигентно от цялото човечество към този момент е голямо предизвикателство, надалеч по-голямо от всичко, с което в миналото сме се сблъсквали “, написа Сюлейман. „ Но управлението на нещо, което има вяра, че може да е умишлено – че има право на нашето благополучие и има лични права – може да е невероятно. “
