Антропик казва, че не можете да бъдете зли с Клод. Не става дума за чувства

Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i00013b6tfgavt09z@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > В началото на октомври AI колосът Anthropic вмъкна нов език в своята политика за потребление на AI.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl5qxjl00003b6thp4tq6qf@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Наред със възбраната на потребителите да се пробват да накарат Claude, системата за изкуствен интелект на компанията, да им помогне да основават биологични оръжия или да продават противозаконни опиати, компанията добави нов ред: Потребителите не би трябвало да „ се ангажират с дълготрайно и излишно обидно или грубо държание по отношение на нашите модели “.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i00033b6tpxmhksb6@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Клод има способността да приключва диалози с консуматори, които са били „ непрекъснато нездравословни или злоупотребяващи “ от предходната година, само че в този момент някои консуматори могат, в рискови случаи, да получат перманентна възбрана да употребяват напълно AI системите на Anthropic според новата политика. (Anthropic отхвърли настояванията за изявление, само че представител сподели на CNN, че главният механизъм за използване към момента ще бъде Клод да приключва диалозите и че възбраната не е за хора, изразяващи отчаяние, директна противоположна връзка или тестване и проучване.)

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i00043b6ts5mhdqrf@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Новата политика беше посрещната с известна насмешка. Главният изпълнителен шеф на Microsoft AI Мустафа Сюлейман отговори с разтапящо се емоджи на лицето. Някои се подиграваха на компанията, че третира своя AI като умишлено създание с усеща.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i00053b6tgefkjfk1@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Но до момента в който Anthropic, която се чака да стане обществена посредством IPO по-късно този месец, от дълго време е изучавала благосъстоянието на модела и има цялостен екип, отдаден на „ логиката на психиката “ на модела, специалистите споделят, че в тази политика има освен това от това просто да не желаят хората да се държат неприятно с машина.

Боклук вътре, отпадък вън

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i00073b6tlxle0j8z@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Дългогодишен основополагащ принцип в компютрите и ИИ е, че качеството на изхода на системата е лимитирано от качеството на входа. Сложете отпадъци в него и ще излязат още отпадъци, както се споделя.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i00083b6t8peuhp0s@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > AI моделите освен се образоват, преди да бъдат пуснати, те също по този начин непрестанно се актуализират и се учат от потребителския вход.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i00093b6tseat1ug5@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Бившият изпълнителен шеф на Reddit Yishan Wong написа на X, че една от аргументите за възбраната е, че Клод „ ще се поучи от жестокостта “.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i000a3b6t7xs4t09e@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > " Вече знаем (и се оплакваме шумно от това), че Anthropic образова своите модели на потребителски вход. Наистина ли желаете подготвителните входове да включват " потребителите работят грубо без причина и получават наслаждение от това? ", написа той.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i000b3b6taddhzikz@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Проучванията демонстрират също, че тонът на подканите на потребителя също може да повлияе на държанието на AI, сподели професор Jindong Wang, шеф на граничната лаборатория за AI в университета Уилям и Мери.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i000c3b6twjf9n3zg@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > " Открихме, че формулировката, изключително по какъв начин говорите с AI, може да повлияе на продуктивността. Понякога те са потребни, а от време на време ще нарушат продуктивността ", сподели Уанг в изявление.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i000d3b6tvzv9myoa@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Това не значи, че моделът изпитва страсти, сподели Уанг.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i000e3b6to0rcgmqp@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Те просто схващат (вашите емоции) и вършат някои неприятни реакции въз основа на вашите прочувствени думи “, означи той.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i000f3b6tzs8z08ux@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Но доказателствата за въздействието на потребителския звук върху изхода могат да бъдат смесени. Роузи Кембъл, ръководещ шеф на Eleos AI Research, организация с нестопанска цел, отдадена на разбирането и оправянето с евентуалното богатство на AI, сподели, че някои други изследвания даже демонстрират, че грубите въпроси могат фактически да подобрят резултатите.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i000g3b6tuk7z1lfj@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > След това има аспект на дълготрайната памет – доста от днешните чатботове помнят вашите предходни диалози и се учат от тях, с цел да ви дадат персонализирани резултати.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i000h3b6tqu766bho@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Ако имате включена памет (за вашия AI chatbot), тогава те ще се учат от вашия звук и по какъв начин желаете да взаимодействате с вас “, предизвести Кембъл, макар че добави, че няма задоволително доказателства, които да покажат дали това се отразява на продуктивността.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i000i3b6t1fhodsn5@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Anthropic сподели, че неотдавна откри, че причиняването на Claude Sonnet 4.5 да имитира усеща на обезсърчение може да повлияе на държанието му, правейки го по-вероятно да предприеме неприятни дейности, като изнудване или машинация при задача, като в същото време сътвори умерено държание ги понижи.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i000j3b6tmz04rfmx@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Уанг сподели, че най-новите модели обаче е по-малко евентуално да бъдат повлияни от това по какъв начин е дефинирана подкана и че фирмите са подобрили устойчивостта на модела, с цел да не бъдат наранени от това по какъв начин е дефинирана подкана. Но „ скритият механизъм “ за какво AI моделите даже биха реагирали на отрицателни страсти, даже когато не са програмирани да го вършат, не е оголен.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i000k3b6tfdbfko4j@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Хората, които приказват с изкуствен интелект по афектиран и нечовечен метод, е по-вероятно да бъдат свързани с опити да накарат модела на изкуствен интелект да се включи в рискови поръчки, като да вземем за пример да се пробват да заобиколят защитните парапети на изкуствен интелект, добави Кембъл.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i000l3b6trj25yurr@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Съществува и теорията, че оставянето на хората да вземат участие в обидно и грубо държание с интерактивна стратегия, която не може да се затвори, е неприятно за обществото като цяло, сподели Кембъл. Тя употребява образеца с родителите, които молят децата си да кажат „ апелирам и благодаря “ на Alexa, интелигентния високоговорител на Amazon, тъй като имат вяра, че „ е добре децата да бъдат възпитавани с положителни маниери и да се отнасят с почитание към другите неща “.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmvl53x9i000m3b6thu3ct1xy@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > „ Вероятно има нещо съвсем