Какво означава да поставите „воден знак“ върху AI текст?

Вижте всички тематики Връзката е копирана! Следвайте <стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmt0ol74f001u3b6r72pm69dk@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > За хората, които към момента се интересуват дали част от написаното идва от машина или от човешки мозък, е все по-трудно да се направи разлика. Много хора са много зле в писането. Междувременно AI моделите са напреднали до точката на основаване на текст, който е, в случай че не и това, което професионален текстописец би счел за положително, то най-малко идеално работещо.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmt0ol74f001v3b6rk77xrjy5@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Компанията за изкуствен интелект Anthropic наподобява предложи решение предходната седмица, когато разгласи, че целият текст, генериран посредством нейната система Claude, скоро ще носи „ воден знак “.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmt0ol74f001w3b6rnkm8178a@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Промяната, сподели Anthropic, има за цел да се съобрази с наредбите, които неотдавна влязоха в действие в Европейския съюз, които задължават фирмите да маркират наличие, генерирано от AI, и да го създадат откриваемо за потребителите. Други компании за изкуствен интелект евентуално ще последват образеца.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmt0ol74f001x3b6r9b727jme@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Докато водните знаци с изкуствен интелект се употребяват за етикетиране на компютърно генерирани изображения от години, опциите за маркиране на текст са по-нови – Гугъл вкара технологията за воден знак за текст и я направи общодостъпна през октомври 2024 г.; Съобщава се, че OpenAI е създал собствен личен инструмент още по-рано, само че до момента е отлагал стартирането му.

<стр data-uri= " cms.cnn.com/_components/editor-note/instances/cmt0n4f1200063b6rfa5pcmm6@published " data-editable= " текст " data-component-name= " редакторска записка " class= " editor-note-elevate vossi-editor-note_elevate inline-placeholder " data-article-gutter= " true " >   „ Думата на седмицата “ на CNN ви показва смисъла зад думите в новините.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmt0ol74f001y3b6rjkves8q3@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Първоначално „ воден знак “ е физическо, очевидно създание. През 1200 година италианските производители на хартия създадоха технология за прибавяне на фини, отличителни маркировки към хартията, идваща от техните самостоятелни заводи. Английската дума, защото се отнася до дизайна, е записана за първи път през 1700 година и евентуално произлиза от ранна техника: телта е била огъната в обособена форма и прикрепена към екраните, които притискат мократа маса в хартия, вграждайки дизайн във всеки лист. След като новоизработената хартия изсъхне, издигането й на светлина ще разкрие непрекъснат модел от по-дебели и по-тънки области.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmt0ol74f001z3b6r9khjzjww@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > През вековете водните знаци стартират да значат качество и достоверност. Те са показани върху пощенски марки, валута, правни контракти и други публични документи, постоянно за отбрана против измами. Листове с пощенски марки на Съединени американски щати от 1895 до 1910 година съдържаха воден знак, четящ „ USPS “ в двоен ред, да вземем за пример, до момента в който марките от 1910 до 1916 година имаха едноредова версия.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmt0ol74f00203b6rrq0r6jkd@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Идеята за включване на вграден идентификатор по-късно ще се разшири до нематериални медии, даже когато физическите маркери правят отстъпка място на скрити сигнали, вградени в данни. През 1954 година Емил Хембрук от Muzak Corporation, преобладаващият снабдител на фонова музика в Съединените щати, се базира на книжен воден знак в патент, който подава за вграждане на нечуваеми идентификационни кодове в продукта на неговата компания: „ Настоящото откритие прави допустима позитивната идентификация на произхода на музикална презентация и по този метод съставлява дейно средство за попречване на такова пиратство, т.е. може да се оприличи на воден знак на хартия. “

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmt0ol74f00213b6rjqb4og5b@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Цифровите форми на водни знаци се появиха през 90-те и началото на 2000-те години, когато интернет направи пиратството на музика, филми и други цифрови медии по-лесно от всеки път, сподели Джили Видан, историк на компютърните технологии в университета Корнел. Водните знаци биха означавали, че правата върху ария са благосъстоятелност на избран музикален лейбъл или че правата върху филм се държат от кино студио.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmt0ol74g00223b6rfo3qsm4h@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Сега, когато наличието, генерирано от AI, се популяризира онлайн, фирмите за AI стартират да маркират продукцията, която идва от техните модели. Но в случай че физическите и цифровите водни знаци са били предопределени да ревизират достоверността, водните знаци с изкуствен интелект служат повече за сигнализиране на неавтентичност. Вместо да пазят интелектуалната благосъстоятелност, те слагат под подозрение дали потребителят въобще може да претендира за благосъстоятелност върху думите.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmt0ol74g00233b6rwlayi74h@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Водните знаци в цифровия текст работят почти по следния метод: Големите езикови модели се образоват върху големи масиви от писмени материали, с цел да предскажат идната дума в поредност. Когато има голям брой логичен благоприятни условия за това каква би трябвало да бъде идната дума, моделът нормално избира една от тези думи инцидентно въз основа на относителната им периодичност в данните.

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmt0ol74g00243b6rgad1unoh@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Но при слагането на воден знак върху текста системите с изкуствен интелект пренастройват вероятността за всяка от тези вероятни думи, като леко отклоняват модела в интерес на някои думи пред други. Моделът има наклонност към избор на избрани думи неведнъж в целия текст, вграждайки модел, който е предопределен да бъде възприеман единствено от някой с ключа. Колкото по-дълъг е текстът, толкоз по-големи са възможностите водният знак да бъде открит. (Софтуерният инженер Джеймс Падолси разгласява комфортен обяснител, илюстриращ това в изясняващи детайлности.)

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmt0ol74g00253b6rsjzio8rx@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > За разлика от множеството водни знаци, които или участват, или не, текстовите водни знаци на AI не демонстрират изрично дали нещо е написано от човек или от модел на AI, сподели Даниел Съсър, откривател и мъдрец в университета Корнел, който учи етиката и политиката на AI. Вместо това, водният знак дава статистически доказателства, които подсказват дали е забъркан AI. „ Това доказателство не е финален двоичен сигнал „ да/не “, сподели той. „ Това е сигнал, който би трябвало да се пояснява. “

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmt0ol74g00263b6rbd7pdnom@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Как необятната аудитория би трябвало да чете текстов воден знак с изкуствен интелект? Съобщението на Anthropic провокира суматоха измежду някои въодушевени осиновители на Claude, които показаха угриженост по отношение на това, което етикетът за използването на AI може да алармира за тях. Както един консуматор написа в обява във форума на Reddit r/artificial: " И стигмата. Исусе, стигмата. Представете си, че изпращате автобиография и компанията открива: " О, този човек употребява AI ". Представете си, че предавате дисертация и вашият консултант вижда дребното алено знаменце. Създаваме прослойка от " мръсни " основатели. Хора, които са се осмелили да употребяват инструмент. "

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmt0ol74g00273b6rng3q6bgm@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Част от безпокойството към текстовия воден знак на Anthropic може да се дължи на това, че хората осъзнават, че могат да се сблъскат с действителни последици, в случай че заблуждават другите или заобикалят същинска работа. Но Съсър сподели, че безпокойството може също да отразява, че обществото не е открило напълно ясни правила по отношение на потреблението на ИИ. Хората в избрани области са изправени пред голям напън от промишлеността да употребяват AI в работата си; тези в други области са мощно обезкуражени да го вършат. „ Мисля, че хората постоянно в действителност не са сигурни дали е добре или не да употребяват AI “, добави той. „ И концепцията, че може да има техническо средство, което да покаже, че са го създали, наподобява някак заплашително. “

<стр class= " paragraph-elevate inline-placeholder vossi-paragraph_elevate " data-uri= " cms.cnn.com/_components/paragraph/instances/cmt0ol74g00283b6rz0eqo2s8@published " data-editable= " текст " data-component-name= " параграф " data-article-gutter= " true " > Сара Фишър, учител по философия в университета в Кардиф, която се застъпва за етикетиране на синтетично наличие, сподели, че може да е потребно да се знае дали човек или AI модел е написал нещо: За професора е значимо дали студентът е дефинирал мотив самичък или просто е предал каквото е изплюл Клод. И защото обществото цени човешкото артистично изложение по друг метод от AI o