TikTok ще маркира автоматично потребителско съдържание, генерирано от изкуствен интелект, първо в световен мащаб

TikTok ще стане първата обществена медийна платформа, която автоматизирано маркира наличие, генерирано от изкуствен интелект, защото бързият прогрес в генериращия изкуствен интелект задълбочава опасенията по отношение на разпространяването на онлайн дезинформация и deepfakes.

Онлайн групи, като притежателя на Фейсбук Meta и TikTok, към този момент изискват потребителите да разкриват дали реалистични изображения, аудио или видео са направени посредством AI програмен продукт.

Вирусното видео приложение, благосъстоятелност на китайската ByteDance, отиде крачка напред в четвъртък, като разгласи, че вкарва свои лични функционалности, с цел да подсигурява, че видеоклиповете, които може да разпознава като генерирани от AI, ще бъдат етикетирани като такива. Това ще включва наличие, направено благодарение на инструмента Firefly на Adobe, личните AI генератори на изображения на TikTok и Dall-E на OpenAI.

„ Предизвикателството е, че знаем от доста специалисти, с които работим, че има увеличение ... нездравословно генерирано от AI наличие “, сподели Адам Пресър, началник на интервенциите и доверието и сигурността на TikTok.

„ Това е в действителност значимо за нашата общественост, тъй като достоверността в действителност е един от детайлите, които направиха TikTok толкоз витална и радостна общност ... те желаят да могат да схванат какво е направено от човек и какво е усъвършенствано или генерирано с AI. “

Социалните медийни платформи, в това число TikTok, Meta, X и YouTube, изследват способи за консолидиране генериращ AI в техните платформи, посредством чатботове и нови принадлежности, помагащи на авторитетни лица и рекламодатели да основават медии. Въпреки това платформите бяха подложени на рецензии, тъй като позволяваха на потребителите да бъдат наводнени с нискокачествено спам наличие, генерирано от изкуствен интелект.

В година на огромни избори по света тези компании също са изправени пред напън да вкарат защитни огради към подвеждащи дълбоки фалшификации, лимитират интервенциите за прикрито въздействие и подсигуряват, че вярно модерират наличието, като в същото време остават безпартийни.

По-рано тази седмица TikTok и неговият родител ByteDance заведоха дело против държавното управление на Съединени американски щати, оспорвайки закон, предопределен да принуди продажбата или възбраната на приложението. Законодателите показаха угриженост, че платформата може да прокара дезинформация и агитация.

В четвъртък TikTok съобщи, че ще се причисли към коалиция от софтуерни и медийни групи, водени от Adobe, които включват по този начин наречените идентификационни данни за наличие в артикули, генерирани от AI.

Тази технология вгражда дигитален пръстов отпечатък в мултимедийно AI наличие, дружно с друга идентифицираща информация, като да вземем за пример по кое време, къде и от кого е генериран материалът. TikTok ще употребява тези знаци, с цел да маркира автоматизирано, когато наличието е направено благодарение на AI артикули.

OpenAI във вторник разгласи, че ще се причисли към обединението, известна като Content Authenticity Initiative, и ще вгради технологията за пръстови отпечатъци във всички генерирани изображения от неговия модел за изображения Dall-E 3. В последна сметка, производителят на ChatGPT сподели, че ще вгради и тях в своя модел за генериране на видео Sora, когато бъде необятно пуснат.

Големи софтуерни компании, в това число Гугъл, Microsoft и Sony, изследват опцията за вграждане на технологията в своите принадлежности за изкуствен интелект.

Meta сподели по-рано този месец, че ще стартира да подпечатва генерирано от AI наличие с етикет „ Произведено от AI “ посредством разкриване на невидими маркери, вмъкнати от групи като Гугъл, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock. Собственикът на Фейсбук също сподели, че създава класификатори за разкриване на дълбоки имитации.

Експертите настояват, че неприятни артисти или комплицирани групи за дезинформация евентуално ще употребяват принадлежности за генериране на изкуствен интелект с отворен код, с цел да основават дълбоки имитации, което ще ги направи по-трудни за следене и няма да бъдат белязани от цифрови отпечатъци и водни знаци.

Технологичните компании настояват, че техните старания съставляват първата стъпка към справяне с казуса.

Дейна Рао, основен консултант и основен тръстов чиновник в Adobe, сподели: „ Предпоставката на това решение е, че в случай че желаете да сте транспарантни и да имате достоверен, транспарантен диалог с вашата аудитория, този инструмент ще ви разреши да го извършите в свят, в който всичко цифрово може да бъде манипулирано. “