Явни, генерирани от AI изображения на Taylor Swift се разпространяват бързо в социалните медии
Порнографски, генерирани от изкуствен интелект изображения на най-известната звезда в света се разпространиха в социалните медии тази седмица, подчертавайки вредния потенциал, породен от основната технология за изкуствен интелект: нейната способност да създава убедително реални и вредни изображения.
Фалшивите изображения на Тейлър Суифт предимно циркулираха в сайта на социалните медии X, известен преди като Twitter. Снимките – които показват певицата в сексуални и експлицитни пози – бяха гледани десетки милиони пъти, преди да бъдат премахнати от социалните платформи. Но нищо в интернет наистина не е изчезнало завинаги и те несъмнено ще продължат да се споделят в други, по-малко регулирани канали.
Говорителят на Swift не отговори на искане за коментар.
Подобно на повечето големи социални медийни платформи, политиките на X забраняват споделянето на „синтетични, манипулирани или извън контекста медии, които могат да заблудят или объркат хората и да доведат до вреда“.
Компанията не отговори на искането на CNN за коментар.
Инцидентът идва, когато Съединените щати навлизат в годината на президентските избори и нарастват опасенията за това как подвеждащи изображения и видеоклипове, генерирани от AI, могат да бъдат използвани за насърчаване на усилията за дезинформация и в крайна сметка да осуетят вота.
„Това е отличен пример за начините, по които изкуственият интелект се отприщва по много нечестиви причини, без да има достатъчно парапети, за да защити обществения площад“, каза Бен Декър, който управлява Memetica, агенция за дигитални разследвания, пред CNN.
Декър каза, че използването на генеративни AI инструменти за създаване на потенциално вредно съдържание, насочено към всички видове публични личности, се увеличава бързо и се разпространява по-бързо от всякога в социалните медии.
„Компаниите за социални медии всъщност нямат ефективни планове за задължително наблюдение на съдържанието“, каза той.
X, например, до голяма степен изкорми своя екип за модериране на съдържание и разчита на автоматизирани системи и докладване на потребителите. (В ЕС в момента X се разследва относно практиките му за модериране на съдържание).
Meta също направи съкращения в своите екипи, които се борят с дезинформацията и координира кампании за тролове и тормоз в своите платформи, казаха хора, запознати пряко със ситуацията, пред CNN, което поражда опасения преди ключовите избори през 2024 г. в САЩ и по света.
Не е ясно откъде произхождат изображенията, свързани с Тейлър Суифт. Въпреки че някои изображения бяха намерени на сайтове като Instagram и Reddit, те бяха широко разпространен проблем по-специално в X.
Инцидентът също така съвпада с възхода на инструменти за генериране на AI като ChatGPT и Dall-E. Съществува обаче и много по-широк свят от немодерирани небезопасни за работа AI модели в платформи с отворен код, каза Декър.
„Това е показател за по-голям вид раздробяване на модерирането на съдържанието и управлението на платформата, защото ако всички заинтересовани страни – компаниите за изкуствен интелект, компаниите за социални медии, регулаторите и гражданското общество – не говорят за едни и същи неща и на една и съща страница за това как да се справят тези проблеми, този тип съдържание просто ще продължи да се разпространява“, добави той.
Декър каза обаче, че насочването към Swift може да привлече повече внимание към нарастващите проблеми около генерираните от AI изображения. Огромният контингент от лоялни „Swifties“ на Суифт изрази възмущението си в социалните медии тази седмица, извеждайки проблема на преден план. През 2022 г. сривът на Ticketmaster преди нейния концерт на Eras Tour предизвика гняв онлайн, което доведе до няколко законодателни усилия за премахване на неблагоприятните за потребителите политики за билети.
Може би същото ще важи и за повреждането на изображения, генерирани от AI, предположи Декер.
„Когато имате фигури като Тейлър Суифт, които са толкова големи [набелязани], може би това е нещото, което подтиква законодателите и технологичните компании да предприемат действия, защото не могат да си позволят любимата на Америка да бъде в публична кампания срещу тях“, каза той. „Бих казал, че трябва да я накарат да се почувства по-добре, защото тя има вероятно по-голямо влияние от почти всеки друг в интернет.“
Този тип технология се използва за създаване на това, което е известно като „порно за отмъщение“ – публикуване на изрични изображения на някого онлайн без негово съгласие – от известно време, но сега отново привлича вниманието заради обидните снимки на Суифт.
В момента девет американски щата имат закони срещу създаването или споделянето на дълбоки фалшиви фотографии без съгласие, които са синтетични изображения, създадени, за да имитират нечия прилика.
