AP News | 2024-05-07 | 22:57:06

Кейти Пери и Риана не присъстваха на Met Gala. Но изображенията, генерирани от изкуствен интелект, все пак заблудиха феновете

НЮ ЙОРК (AP) — Не, Кейти Пери и Риана не присъстваха на Met Gala тази година. Но това не попречи на изображения, генерирани от изкуствен интелект, да подмамят някои фенове да си помислят, че звездите са се появили на стъпалата на най-голямата вечер на модата.

Изображения Deepfake, изобразяващи шепа големи имена в годишния музей на изкуствата Метрополитън Набирането на средства бързо се разпространи онлайн в понеделник и рано във вторник.

Някои потребители на социални медии с орлови очи забелязаха несъответствия - и самите платформи, като X's Community Notes, скоро отбелязаха, че изображенията вероятно са създадени с помощта на изкуствен интелект. Една улика, че вирусна снимка на Пери в рокля, покрита с цветя, например, е фалшива, е, че килимът на стълбите съвпада с този от събитието през 2018 г., а не с тазгодишната зелено оцветена тъкан, подплатена с жива зеленина.

И все пак други бяха заблудени - включително собствената майка на Пери. Часове след като най-малко две генерирани от изкуствен интелект изображения на певицата започнаха да се въртят онлайн, Пери ги публикува отново в своя Instagram, придружени от екранна снимка на текст, който изглеждаше като от майка й, който й прави комплимент за това, което тя смяташе за истинска поява на Met Gala.

„хаха, мамо, изкуственият интелект стигна и до теб, ВНИМАВАЙ!“ Пери отговори в размяната.

Представители на Пери не отговориха веднага на искането на Асошиейтед прес за допълнителен коментар и информация защо Пери не беше на събитието в понеделник вечерта. Но в надпис към публикацията си в Instagram Пери написа: „не можах да стигна до MET, трябваше да поработя“. Публикацията включва и заглушено видео на нейното пеене.

Междувременно фалшива снимка на Риана в зашеметяваща бяла рокля, бродирана с цветя, птици и клони, също обиколи онлайн. Multihyphenate първоначално беше потвърден гост за тазгодишната Met Gala, но представители на Vogue казаха, че тя няма да присъства, преди да затворят килима в понеделник вечерта.

Списание People съобщи, че Риана е болна от грип, но представители го направиха не потвърждава веднага причината за отсъствието си. Представителите на Риана също не отговориха веднага на исканията за коментар в отговор на генерираното от AI изображение на звездата.

Въпреки че източникът или източниците на тези изображения е трудно да се заключи, реалистично изглеждащият фон на Met Gala, който се вижда в много, предполага, че какъвто и AI инструмент да е бил използван за създаването им, вероятно е бил обучен върху някои изображения на минали събития.

Официалният фотограф на Met Gala, Getty Images, отказа коментар във вторник.

Миналата година Getty съди водещ генератор на изображения с изкуствен интелект, базираната в Лондон Stability AI, твърдейки, че е копирал повече от 12 милиона снимки от колекцията на Getty със стокови фотографии без разрешение. Getty оттогава стартира свой собствен AI генератор на изображения, обучен на неговите произведения, но блокира опитите за генериране на това, което описва като „проблематично съдържание“.

Това далеч не е първият път, когато виждаме генериращ AI, клон на AI, който може да създаде нещо ново, използвано за създаване на фалшиво съдържание. Изображения, видео и аудио фалшификации на видни фигури, от папа Франциск до Тейлър Суифт, са спечелили много популярност онлайн и преди.

Експертите отбелязват, че всеки случай подчертава нарастваща загриженост относно злоупотребата с тази технология — особено по отношение на дезинформация и потенциала за извършване на измами, кражба на самоличност или пропаганда и дори изборна манипулация.

„Преди се смяташе, че да видиш означава да повярваш, а сега да видиш не е да повярваш“, каза Кейси Майерс, професор и директор на следдипломно обучение в Училището по комуникации на Virginia Tech – посочвайки въздействието на генерирания от понеделник AI образ на Пери . „(Ако) дори една майка може да бъде заблудена да мисли, че изображението е истинско, това ви показва нивото на изтънченост, което тази технология има сега.“

Докато използвате AI за генериране на изображения на знаменитости в грим- смятат, че луксозните рокли (които лесно се доказва като фалшиви на силно рекламирано събитие като Met Gala) може да изглеждат относително безобидни, Майърс и други отбелязват, че има добре документирана история на по-сериозни или пагубни употреби на този вид технология.

По-рано тази година сексуално явни и злоупотребяващи фалшиви изображения на Суифт, например, започнаха да циркулират онлайн - което накара X, бивш Twitter, да блокира временно някои търсения. Жертвите на дълбоки фалшификати без съгласие, разбира се, надхвърлят знаменитостите и защитниците подчертават особена загриженост за жертвите, които нямат много защита. Изследванията показват, че експлицитните материали, генерирани от изкуствен интелект, изключително много вреди на жените и децата – включително смущаващи случаи на голи актове, генерирани от изкуствен интелект, циркулиращи в гимназиите.

И в година на избори за няколко страни по света, експертите продължават да посочват и потенциални геополитически последици, които измамните, генерирани от AI материали могат да имат.

„Последствията тук далеч надхвърлят безопасността на индивида – и наистина засяга неща като безопасността на нацията, безопасността на цялото общество“, каза Дейвид Бронятовски, доцент в университета Джордж Вашингтон и водещ главен изследовател на Института за надежден ИИ в правото и обществото в училището.

Използването на това, което генеративният AI може да предложи, докато се изгражда инфраструктура, която защитава потребителите, е трудна задача — особено след като комерсиализацията на технологията продължава да расте с такава бърза скорост. Експертите посочват необходимостта от корпоративна отчетност, универсални индустриални стандарти и ефективна държавна регулация.

Технологичните компании до голяма степен решават, когато става въпрос за управление на ИИ и неговите рискове, докато правителствата по света работят, за да наваксат. Въпреки това през последната година беше постигнат значителен напредък. През декември Европейският съюз постигна споразумение относно първите в света всеобхватни правила за ИИ, но актът няма да влезе в сила преди две години след окончателното одобрение.