Meta ще етикетира изображения във Facebook и Instagram, които са създадени от AI

Meta ще стартира да етикетира изображения, оповестени във Фейсбук, Instagram и Threads, за които откри, че са основани благодарение на AI, разгласи компанията.

Гигантът на обществените медии сподели, че сега построява опцията и ще я популяризира в своите обществени платформи през „ идващите месеци “ и преди редица огромни световни избори тази година.

Мета към този момент слага етикет върху изображения, основани благодарение на личен AI, само че сподели, че новата му дарба ще му разреши да етикетира изображения, основани от AI от Гугъл, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock като част от напъните в цялата промишленост да употребява „ най-хубавите практики ” и поставете „ невидими маркери ” върху изображенията и техните метаданни, с цел да ги идентифицирате като генерирани от AI.

Бившият вицепремиер на Обединеното кралство сър Ник Клег, в този момент президент по световните въпроси на Meta, призна евентуалната дарба за неприятните артисти да употребяват изображения, генерирани от AI, за разпространение на дезинформация като основна причина Meta да вкара функционалността.

ИИ ли е? Границата сред AI и основаното от индивида наличие може да е неразбираема, само че етикетирането не би трябвало да бъде. Ние вкарваме водещи в промишлеността практики, които ще разпознават изображения, генерирани от AI в @facebook, @instagram и @threadsapp__.https://t.co/CCsMmNh40mpic.twitter.com/hGcsaBwSeW

— Мета Newsroom (@MetaNewsroom) 6 февруари 2024 година

„ Тази работа е изключително значима, защото има възможност да се трансформира във все по-противническо пространство през идващите години ”, сподели той.

„ Хората и организациите, които интензивно желаят да излъгват хората с генерирано от AI наличие, ще търсят способи да заобиколят защитните ограничения, които са въведени, с цел да го открият.

“ В нашата промишленост и общество като цяло ще би трябвало да продължим да търсим способи да сме една крачка напред.

„ Междувременно е значимо хората да вземат поради няколко неща, когато дефинират дали наличието е основано от AI, като да вземем за пример инспекция дали акаунтът, който споделя наличието, е благонадежден или търсене на детайлности, които може да наподобяват или звучат неестествено. “

Редица видни политици бяха цели на манипулирани медии или дълбоки фалшификации през последните месеци.

В обява в блог по отношение на известието, господин Клег също удостовери, че включването на маркери в аудио и видео наличие към момента не се употребява в същия мащаб, тъй че инструментът на Meta към момента няма да се ползва за такова наличие, основано от други компании които по-късно бяха споделени в платформите на Meta.

Той добави, че Meta прибавя инструмент за потребителите, които непринудено да „ разкриват, когато споделят генерирано от AI видео или аудио, с цел да можем да прибавим етикет към него “.

„ Ще пожелаваме от хората да употребяват този инструмент за откриване и етикетиране, когато разгласяват органично наличие с фотореалистично видео или реалистично звучащо аудио, което е цифрово основано или променено, и може да наложим наказания, в случай че не го създадат по този начин “, сподели той.

„ Ако установим, че цифрово основано или променено изображение, видео или аудио наличие основава изключително висок риск от основна машинация на обществеността по значим въпрос, можем да прибавим по-видно етикет, в случай че е подходящо, тъй че хората да имат повече информация и подтекст. “

Г-н Клег сподели, че към момента не е допустимо да се разпознава цялото генерирано от AI наличие, само че Meta „ работи интензивно “ върху принадлежности, които могат автоматизирано направете го.