Facebook и Instagram ще етикетират всички изображения на своите платформи, създадени от AI, казва Мета

Технологичният гигант каза, че сега изгражда „водещи в индустрията инструменти“, които ще му позволят да идентифицира невидими маркери върху генерирани от AI изображения, които идват от други сайтове като Google, OpenAI, Microsoft или Adobe.

Meta каза, че ще въведе етикетирането във Facebook, Instagram и Threads през следващите месеци.

Сър Ник Клег, бившият британски вицепремиер, който сега е президент на Meta по глобалните въпроси, написа в изявление, че този ход идва през година, когато „по света се провеждат редица важни избори“.

Той добави: „През това време очакваме да научим много повече за това как хората създават и споделят AI съдържание, какъв вид прозрачност хората намират за най-ценен и как се развиват тези технологии. Това, което научаваме, ще информира най-добрите практики в индустрията и нашите собствен подход напред."

Сър Ник каза, че този ход е важен във време, когато "разликата между човешко и синтетично съдържание" става "размита".

Мета казва, че е работи с "индустриални партньори по общи технически стандарти за идентифициране на AI съдържание", добавяйки, че ще може да етикетира изображения, генерирани от AI, когато нейната технология разпознае "индустриални стандартни индикатори".

Компанията казва, че етикетите ще се предлага на „всички езици“.

Е, първо, стана невъзможно да се игнорира.

От според една скорошна оценка само от 2022 г. 15 милиарда изображения са генерирани от AI и качени в интернет. Подобно на голяма част от онлайн съдържанието, повечето от тях се вписват в разнообразието от безобидни, дори глупави сладки котенца, научна фантастика, аниме.

Но голям брой са вредни. Неща като фалшиви изрични изображения на публични или частни лица, качени без тяхното съгласие, или политически мотивирана дезинформация, предназначена да манипулира истината.

Но другата причина за реакцията са компаниите като Meta знаят, че ще бъдат принудени да направят нещо по въпроса.

Обединеното кралство прие Закона за онлайн безопасност миналата година, който забранява качването на фалшиви изрични изображения на лице без тяхното съгласие е престъпление. Законодателите в САЩ миналата седмица казаха на шефовете на социалните медии, че не изпълняват задължението си да пазят потребителите онлайн и че законите, които ги принуждават да правят повече, сега са единственият курс на действие.

Ще има ли значение съобщението на Meta? Да, в това отношение вероятно ще принуди конкурентите им да последват примера и със сигурност ще помогне да стане по-ясно кои изображения са генерирани от AI и кои не.

Но няколко изследвания екипите показаха, че цифровите водни знаци - дори водните знаци, заровени в метаданните на изображението - могат да бъдат премахнати с малко опит. Дори Meta признава, че технологията не е съвършена.

Истинският тест ще бъде дали през следващите месеци ще видим намаляване на експлозията от появяващи се вредни фалшиви изображения на линия. И това вероятно ще бъде по-лесно да се каже, отколкото да се направи.

Въпреки че суперзвезда като Тейлър Суифт може да успее да притисне Big Tech да свали нейни незаконни изображения - същото не може да се каже за 3,5 милиарда потребители на една или друга мета платформа.

Ако това не се случи, следващият тест ще бъде дали виждаме големи и мощни технологични компании в съда по въпроса. Някои прогнозират, че само хвърлянето на големи технологии в джобовете им наистина ще доведе до промяна.

Сър Ник каза, че все още не е възможно Meta да идентифицира цялото съдържание, генерирано от AI - с тези, които произвеждат изображенията, могат да го премахнат невидими маркери.

Той добави: „Ние работим усилено, за да разработим класификатори, които могат да ни помогнат да откриваме автоматично генерирано от AI съдържание, дори ако съдържанието няма невидими маркери. В същото време ние търсят начини да направят по-трудно премахването или промяната на невидими водни знаци."

Сър Ник каза, че тази част от работата на Meta е важна, защото използването на AI е „вероятно да се превърне във все по-противническо пространство през годините напред".

„Хората и организациите, които активно искат да измамят хората с генерирано от AI съдържание, ще търсят начини да заобиколят предпазните мерки, които са въведени, за да го открият. В нашата индустрия и обществото като цяло ще трябва да продължавайте да търсите начини да останете една крачка напред“, каза той.

Meta също планира да добави функция към своята платформа, която ще позволи на хората да разкриват, когато споделят генерирано от AI съдържание, така че компанията да може да добави етикет към него.

Прочетете още:
Шефът на Meta се разтревожи заради опасения за експлоатация на деца
Facebook става на 20: От общежитието на Зукърбърг до компания за 1 трилион долара
Осем генерирани от AI изображения, които са хванали хората навън

Тейлър Суифт, насочена към изображения с изкуствен интелект

Изображенията с изкуствен интелект се оказаха противоречиви през последните месеци – много от тях са толкова реалистични, че потребителите често не могат да разберат, че не са реални.

През януари дълбоки фалшиви изображения на поп суперзвездата Тейлър Суифт, за които се смяташе, че са направени с помощта на изкуствен интелект, бяха широко разпространени в социалните медии.

Говорителят на президента на САЩ Байдън каза, че сексуално явните изображения на звездата бяха „много тревожни“.

Прессекретарят на Белия дом Карин Жан-Пиер каза, че компаниите за социални медии играят „важна роля в налагането на собствените си правила“, като тя призова Конгреса да приеме закони по въпроса.

Кралска среща, която не беше всичко, което изглеждаше

В Обединеното кралство слайдшоу от осем изображения, показващи принц Уилям и принц Хари на коронацията на краля, се разпространи широко във Facebook през 2023 г. с повече от 78 000 харесвания.

Едно от тях показва привидно емоционална прегръдка между Уилям и Хари след съобщения за разрив между братята.

Нито едно от осемте изображения обаче не е истинско .

Междувременно, генерирана от AI снимка на Доналд Тръмп, когато той беше официално повдигнат 13 обвинения в изборни измами, заблуди много хора по света през 2023 г.

Последвайте ни в