TikTok ще маркира автоматично потребителско съдържание, генерирано от изкуствен интелект, първо в световен мащаб

TikTok ще стане първата социална медийна платформа, която автоматично маркира съдържание, генерирано от изкуствен интелект, тъй като бързият напредък в генериращия изкуствен интелект задълбочава опасенията относно разпространението на онлайн дезинформация и deepfakes.

Онлайн групи, като собственика на Facebook Meta и TikTok, вече изискват потребителите да разкриват дали реалистични изображения, аудио или видео са направени чрез AI софтуер.

Вирусното видео приложение , собственост на китайската ByteDance, отиде крачка напред в четвъртък, като обяви, че въвежда свои собствени функции, за да гарантира, че видеоклиповете, които може да идентифицира като генерирани от AI, ще бъдат етикетирани като такива. Това ще включва съдържание, направено с помощта на инструмента Firefly на Adobe, собствените AI генератори на изображения на TikTok и Dall-E на OpenAI.

„Предизвикателството е, че знаем от много експерти, с които работим, че има увеличение . . . вредно генерирано от AI съдържание“, каза Адам Пресър, ръководител на операциите и доверието и безопасността на TikTok.

„Това е наистина важно за нашата общност, защото автентичността наистина е един от елементите, които направиха TikTok толкова жизнена и радостна общност . . . те искат да могат да разберат какво е направено от човек и какво е подобрено или генерирано с AI.“

Социалните медийни платформи, включително TikTok, Meta, X и YouTube, проучват начини за интегриране генериращ AI в техните платформи, чрез чатботове и нови инструменти, помагащи на влиятелни лица и рекламодатели да създават медии. Въпреки това платформите бяха подложени на критики, защото позволяваха на потребителите да бъдат наводнени с нискокачествено спам съдържание, генерирано от изкуствен интелект.

В година на големи избори по света тези компании също са изправени пред натиск да въведат предпазни огради около подвеждащи дълбоки фалшификации, ограничават операциите за скрито влияние и гарантират, че правилно модерират съдържанието, като същевременно остават безпартийни.

По-рано тази седмица TikTok и неговият родител ByteDance заведоха дело срещу правителството на САЩ, оспорвайки закон, предназначен да принуди продажбата или забраната на приложението. Законодателите изразиха загриженост, че платформата може да прокара дезинформация и пропаганда.

В четвъртък TikTok заяви, че ще се присъедини към коалиция от технологични и медийни групи, водени от Adobe, които включват така наречените идентификационни данни за съдържание в продукти, генерирани от AI.

Тази технология вгражда цифров пръстов отпечатък в мултимедийно AI съдържание, заедно с друга идентифицираща информация, като например кога, къде и от кого е генериран материалът. TikTok ще използва тези индикатори, за да маркира автоматично, когато съдържанието е направено с помощта на AI продукти.

OpenAI във вторник обяви, че ще се присъедини към коалицията, известна като Content Authenticity Initiative, и ще вгради технологията за пръстови отпечатъци във всички генерирани изображения от неговия модел за изображения Dall-E 3. В крайна сметка, производителят на ChatGPT каза, че ще вгради и тях в своя модел за генериране на видео Sora, когато бъде широко пуснат.

Големи технологични компании, включително Google, Microsoft и Sony, проучват възможността за вграждане на технологията в своите инструменти за изкуствен интелект.

Meta каза по-рано този месец, че ще започне да подпечатва генерирано от AI съдържание с етикет „Произведено от AI“ чрез откриване на невидими маркери, вмъкнати от групи като Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock. Собственикът на Facebook също каза, че разработва класификатори за откриване на дълбоки фалшификати.

Експертите твърдят, че лоши актьори или сложни групи за дезинформация вероятно ще използват инструменти за генериране на изкуствен интелект с отворен код, за да създават дълбоки фалшификати, което ще ги направи по-трудни за проследяване и няма да бъдат белязани от цифрови отпечатъци и водни знаци.

Технологичните компании твърдят, че техните усилия представляват първата стъпка към справяне с проблема.

Дейна Рао, главен съветник и главен тръстов служител в Adobe, каза: „Предпоставката на това решение е, че ако искате да сте прозрачни и да имате автентичен, прозрачен разговор с вашата публика, този инструмент ще ви позволи да го направите в свят, в който всичко цифрово може да бъде манипулирано.“

Последвайте ни в