Meta ще етикетира изображения във Facebook и Instagram, които са създадени от AI
Meta ще започне да етикетира изображения, публикувани във Facebook, Instagram и Threads, за които установи, че са създадени с помощта на AI, обяви компанията.
Гигантът на социалните медии каза, че в момента изгражда възможността и ще я разпространи в своите социални платформи през „следващите месеци“ и преди редица големи глобални избори тази година.
Мета вече поставя етикет върху изображения, създадени с помощта на собствен AI, но каза, че новата му способност ще му позволи да етикетира изображения, създадени от AI от Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock като част от усилията в цялата индустрия да използва „най-добрите практики ” и поставете „невидими маркери” върху изображенията и техните метаданни, за да ги идентифицирате като генерирани от AI.
Бившият вицепремиер на Обединеното кралство сър Ник Клег, сега президент по глобалните въпроси на Meta, призна потенциалната способност за лошите актьори да използват изображения, генерирани от AI, за разпространяване на дезинформация като ключова причина Meta да въведе функцията.
ИИ ли е? Границата между AI и създаденото от човека съдържание може да е неясна, но етикетирането не трябва да бъде. Ние въвеждаме водещи в индустрията практики, които ще идентифицират изображения, генерирани от AI в @facebook, @instagram и @threadsapp__.https://t.co/CCsMmNh40mpic.twitter.com/hGcsaBwSeW
— Мета Newsroom (@MetaNewsroom) 6 февруари 2024 г.
„Тази работа е особено важна, тъй като има вероятност да се превърне във все по-противническо пространство през следващите години ”, каза той.
„Хората и организациите, които активно искат да измамят хората с генерирано от AI съдържание, ще търсят начини да заобиколят предпазните мерки, които са въведени, за да го открият.
“ В нашата индустрия и общество като цяло ще трябва да продължим да търсим начини да сме една крачка напред.
„Междувременно е важно хората да вземат предвид няколко неща, когато определят дали съдържанието е създадено от AI , като например проверка дали акаунтът, който споделя съдържанието, е надежден или търсене на подробности, които може да изглеждат или звучат неестествено.“
Редица видни политици бяха мишени на манипулирани медии или дълбоки фалшификации през последните месеци.
В публикация в блог относно съобщението, г-н Клег също потвърди, че включването на маркери в аудио и видео съдържание все още не се използва в същия мащаб, така че инструментът на Meta все още няма да се прилага за такова съдържание, създадено от други компании които след това бяха споделени в платформите на Meta.
Той добави, че Meta добавя инструмент за потребителите, които доброволно да „разкриват, когато споделят генерирано от AI видео или аудио, за да можем да добавим етикет към него“.
„Ще изискваме от хората да използват този инструмент за разкриване и етикетиране, когато публикуват органично съдържание с фотореалистично видео или реалистично звучащо аудио, което е цифрово създадено или променено, и може да наложим санкции, ако не го направят така“, каза той.
„Ако установим, че дигитално създадено или променено изображение, видео или аудио съдържание създава особено висок риск от съществена измама на обществеността по важен въпрос, можем да добавим по-видно етикет, ако е уместно, така че хората да имат повече информация и контекст.“
Г-н Клег каза, че все още не е възможно да се идентифицира цялото генерирано от AI съдържание, но Meta „работи усилено“ върху инструменти, които могат автоматично направете го.
