Claude от Anthropic ще постави воден знак на текст, генериран от AI. Ето как работи

Anthropic споделя, че ще стартира дигитален воден знак на текст, генериран или обработен от неговите модели с изкуствен интелект, в това число Claude chatbots, и ще включва метаданни в други видове файлове, тъй че да могат да бъдат разпознати като AI наличие.

Ходът е част от уговорките на Anthropic според Закона за изкуствен интелект на Европейския съюз, който включва правила за бистрота, които удариха при започване на този месец, с цел да се подсигурява, че потребителите знаят дали взаимодействат с AI или човешки творения.

„ Тъй като наличието, генерирано от AI, става всекидневно, по-голямата бистрота и сигнали за това от кое място идва наличието могат да дадат на хората потребен подтекст за информацията, която употребяват “, сподели Anthropic в публикация, оповестена във вторник на неговия уеб страница за поддръжка на Claude.

„ За да подкрепи прозрачността и да съблюдава нашите законови отговорности, Anthropic работи за включване машинночетими знаци в наличието, което Claude генерира. “

Как работи

Anthropic сподели, че моделите на Claude, пуснати на или след 2 август – датата, на която новите правила на Европейски Съюз влязоха в действие – ще съдържат машинночетими знаци за текст и файлове, генерирани или обработени от Claude.

Ще бъде „ неосезаем “ воден знак вплетени в самия текст посредством backend шифроване, обясниха от компанията.

„ Тъй като водният знак е част от текста, той ще пътува с текста, когато бъде заимствуван и подложен на друго място, и може да остане при известно редактиране “, сподели Anthropic.

Получавайте изключителни национални вести

„ Водният знак ще бъде прибавен на равнище модел, което значи, че ще участва без значение от кой артикул на Claude или повърхнина идва текстът. “

Генерираните от AI файлове като JPG изображения към този момент ще съдържат „ подписан генезис метаданни “, който демонстрира, че файлът е основан и обработен от Claude, както и дали файлът е бил манипулиран.

Anthropic сподели, че работи върху механизми за разкриване, с цел да помогне на потребителите и трети страни да открият водните знаци на Claude и метаданните за произхода, и даде обещание да показа детайлности в близко бъдеще.

Компанията работи за прибавяне на функционалността за воден знак към по-старите модели на Claude като добре.

Той предизвести, че съществуването на воден знак или метаданни „ не е изцяло безапелационно “, че наличието е напълно генерирано от AI — единствено че е обработено от модели на Claude.

Например текст, в началото написан от човек, само че въведен в Claude за промяна, превод или съкращаване, ще носи воден знак, откакто бъде обработен. Водният знак ще остане и откакто човек промени обработения текст или го комбинира с различен материал.

Anthropic също означи, че „ липса на открит знак не значи, че наличието не е генерирано или обработено от AI. “ Изображенията, генерирани от Claude, могат да бъдат екранни фотоси или по различен метод лишени от своите метаданни посредством превръщане на формат, да вземем за пример.

Прозрачността на AI нараства

Компаниите от ден на ден одобряват правила за бистрота на AI през последните месеци, като в същото време признават загрижеността на потребителите.

Anthropic е измежду над 200 компании — в това число OpenAI, Meta, Гугъл и Microsoft — които са подписали кодекса за държание на Европейски Съюз за бистрота на AI от тази седмица.

Правилата на Европейски Съюз за бистрота включват утвърдени етикети за генерирано или модифицирано от AI наличие, макар че фирмите могат също да разработят свои лични етикети. AI моделите са задължени да включват воден знак или идентификационен код според закона или рискуват солидни санкции.

Във вторник Spotify също разгласи, че ще маркира ясно генерираните от AI персони на реализатори и няма да включва тези персони в персонализирани музикални рекомендации.

Платформата за стрийминг на музика обаче допуска, че самите реализатори би трябвало да разкрият дали съставените елементи на дадена ария са основани с AI посредством потребление на AI заеми, макар че Spotify го прави ясно ревизират изпълнителите, които са хора.

„ С заемите на AI видяхме, че хората са нетърпеливи да се възползват от опцията да бъдат транспарантни и да споделят по какъв начин са употребявали AI като част от креативния развой на песента си “, сподели Spotify в известие за медиите. „ Надяваме се на сходно равнище на саморазкриване за AI Personas. “

Миналия месец OpenAI разшири своите съществуващи метаданни за генезис, известни като SynthID, на място за изображения, генерирани от неговите AI принадлежности като ChatGPT, с цел да обхване и генерираното от AI аудио.

Компанията разполага със личен инструмент за инспекция, който разрешава на потребителите да ревизират дали наличието е основано от принадлежности на OpenAI.

Канадският федерален Стратегията за AI включва прозрачността като главен приоритет за създаване на доверие в технологията и отбрана на канадците.

Федералното държавно управление започва публични съвещания до 23 септември за това по какъв начин да създаде свои лични правила за бистрота на AI, като специалистите предизвестяват, че са нужни бързи разпореждания или промени в законодателството, защото технологията бързо се развива.