X блокира търсенията на Тейлър Суифт, след като изричните AI изображения на нея станаха вирусни

Социалната медийна платформа X блокира търсенията на Тейлър Суифт, след като изрично генерирани от AI изображения на певицата започнаха да циркулират в сайта.

В изявление за BBC , ръководителят на бизнес операциите на X Джо Бенарок каза, че това е „временно действие“ за приоритизиране на безопасността.

При търсене на Swift на сайта се появява съобщение, което казва : "Нещо се обърка. Опитайте да презаредите."

Фалшиви графични изображения на певицата се появиха на сайта по-рано тази седмица.

Някои отидоха вирусни и бяха прегледани милиони пъти, което предизвика тревога от американски служители и фенове на певицата.

Публикациите и акаунтите, споделящи фалшивите изображения, бяха маркирани от нейните фенове, които напълни платформата с нейни реални изображения и видеоклипове, използвайки думите „защитете Тейлър Суифт“.

Снимките накараха X, бивш Twitter, да публикува изявление в петък, в което се казва, че публикуването на голота без съгласие в платформата е „строго забранено“.

"Имаме политика на нулева толерантност към такова съдържание", се казва в изявлението. „Нашите екипи активно премахват всички идентифицирани изображения и предприемат подходящи действия срещу акаунтите, отговорни за публикуването им.“

Не е ясно кога X е започнал да блокира търсения за Swift в сайта или дали сайтът е блокирал търсения за други обществени личности или термини в миналото.

В имейла си до BBC г-н Benarroch каза, че действието се извършва „с много предпазливост, тъй като даваме приоритет на безопасността по този въпрос“.

Проблемът привлече вниманието на Белия дом, който в петък нарече разпространението на генерираните от AI снимки "тревожно".

„Знаем, че непропорционалното прилагане засяга непропорционално жените и, за съжаление, засяга и момичетата, които са преобладаващите мишени“, каза прессекретарят на Белия дом Карин Жан-Пиер по време на брифинг.

Тя добави, че трябва да има законодателство за справяне със злоупотребата с AI технология в социалните медии и че платформите също трябва да предприемат собствени стъпки, за да забранят такова съдържание в своите сайтове.

"Вярваме, че те играят важна роля в налагането на собствените си правила за предотвратяване на разпространението на дезинформация и интимни изображения на реални хора без съгласие ”, каза г-жа Жан-Пиер.

Американски политици също призоваха за нови закони, които да криминализират създаването на дълбоки фалшиви изображения.

Deepfakes използват изкуствен интелект, за да направят видеоклип на някого, като манипулират лицето или тялото му. Проучване през 2023 г. установи, че има 550% ръст в създаването на фалшиви изображения от 2019 г. насам, подхранван от появата на AI.

В момента няма федерални закони срещу споделянето или създаването на deepfake изображения, въпреки че има ходове на щатско ниво за справяне с проблема.

В Обединеното кралство споделянето на deepfake порнография стана незаконно като част от Закона за онлайн безопасност през 2023 г.