X блокира търсенията на Тейлър Суифт: Какво да знаем за вирусния AI deepfakes

Социалната медийна платформа X блокира търсенията на една от най-популярните персони в света, Тейлър Суифт, след експлицитни изображения с изкуствен интелект на певицата и текстописец вирусен.

Deepfakes наводниха няколко уеб страницата на обществени медии от Reddit до Фейсбук. Това възобнови апелите за подсилване на законодателството по отношение на изкуствения разсъдък, изключително когато се злоупотребява с него за полов тормоз.

Ето какво би трябвало да знаете за епизода на Swift и законността към deepfakes.

Какво се случи с Тейлър Суифт?

В сряда генерирани от изкуствен интелект изображения с очевиден полов темперамент започнаха да циркулират в уеб страниците на обществените медии, изключително в X. Едно изображение на мегазвездата беше забелязано 47 милиона пъти през почти 17-те часа, в които беше онлайн в X, преди да бъде отстранено в четвъртък.

Групата за надълбоко разкриване на имитации Reality Defender сподели на организация Associated Press, че е проследила десетки неповторими изображения, които са се популяризирали до милиони хора в интернет, преди да бъдат отстранени.

X забрани търсенията за Swift и поръчките, свързани със фотосите, като вместо това демонстрира известие за неточност.

Instagram и Threads, макар че разрешават търсения за Swift, демонстрират предупредително известие, когато търсят съответно изображенията.

Какво споделят платформи като X и AI уеб сайтове?

В петък акаунтът за сигурност на X разгласява изказване, в което се повтаря „ политиката на нулева приемливост “ на платформата за издание на голи изображения без единодушие. В него се споделя, че платформата отстранява изображения и подхваща дейности против сметки, които нарушават разпоредбите.

Meta също разгласява изказване, осъждащо наличието, добавяйки, че ще „ предприеме подобаващи дейности, в случай че е належащо “.

„ Ние следим от близко обстановката, с цел да подсигуряваме, че всички по-нататъшни нарушавания ще бъдат неотложно адресирани и наличието ще бъде отстранено “, сподели компанията.

OpenAI съобщи, че има защитни ограничения, с цел да ограничи генерирането на нездравословно наличие на своите платформи като ChatGPT и отхвърля „ поръчки, които изискват обществена фигура по име, в това число Тейлър Суифт “.

Microsoft, която предлага генератор на изображения, основан частично на уеб страницата DALL-E, сподели в петък, че е в развой на следствие дали инструментът е злоупотребяван.

Кейт Вреденбърг, помощник в катедрата по философия, логичност и теоретичен способ в Лондонското учебно заведение по стопанска система, уточни, че бизнес моделите на обществените медии постоянно са построени върху шерване на наличие и техният метод нормално е да почистват след такова събитие.

Swift не е издала изказване по отношение на изображенията. Поп звездата беше забелязана в неделя на мач от НФЛ в Съединените щати, аплодирайки приятеля си Травис Келс, до момента в който неговите Канзас Сити Чийфс напредваха към Супербоул.

Публикуването на изображения на голота без единодушие (NCN) е строго неразрешено в X и имаме политика на нулева приемливост към такова наличие. Нашите екипи интензивно отстраняват всички разпознати изображения и подхващат подобаващи дейности против сметките, виновни за публикуването им. Ние сме близо...

— Безопасност (@Safety) 26 януари 2024 година

Какво е deepfake и по какъв начин може да се злоупотреби с него?

Суифт не е първата обществена персона, която е била ориентирана благодарение на дълбоки фалшификации, които са форма на „ синтетични медии “ или виртуални медии, манипулирани и модифицирани посредством изкуствен интелект.

Изображенията и видеоклиповете могат да бъдат генерирани от нулата посредством зареждане на AI принадлежности с подкани какво да се покаже. Като опция лицето на някого във видеоклип или изображение може да бъде сменено с нечие друго, като да вземем за пример на обществена персона.

Фалшивите видеоклипове нормално се вършат по този метод, с цел да покажат политици, които поддържат избрани изказвания, или хора, участващи в полови действия, в които в никакъв случай не са взели участие. Наскоро в Индия полово очевидни дълбоки подправени изображения на актрисата Рашмика Мандана станаха вирусни в обществените медии, като провокираха звук. Приложение за игри употребява deepfake на иконата на крикет Sachin Tendulkar, с цел да разпространява своя артикул. А в Съединени американски щати акцията на някогашния републикански претендент за президент Рон ДеСантис създаде дълбоки фейкове, показващи по какъв начин някогашният президент Доналд Тръмп, който води партийната конкуренция за президентски номинации, се целува със експерта по публично здраве Антъни Фочи, ненавиждана фигура за доста консерватори поради застъпничеството му за маски и ваксини по време на пандемията COVID-19.

Докато някои дълбоки имитации са лесни за различаване заради неприятното им качество, други могат да бъдат доста по-трудни за разграничение от същински видеоклип. Няколко генеративни AI инструмента като Midjourney, Deepfakes web и DALL-E са налични за потребителите гратис или против ниска такса.

Повече от 96 % от дълбоките подправени изображения сега онлайн са с нецензурен темперамент и съвсем всички са ориентирани към дами, съгласно отчет на Sensity AI, разследваща компания, фокусирана върху откриването на дълбоки подправени изображения.

Има ли законодателство, което може да отбрани онлайн потребителите?

Законодателството, ориентирано съответно към дълбоките фалшификации, варира съгласно страната и нормално варира от условие за откриване на дълбоки фалшификации до възбрана на наличие, което е нездравословно или злонамерено.

Десет щата в Съединени американски щати, в това число Тексас, Калифорния и Илинойс, имат наказателни закони против deepfakes. Законодателите упорстват за сходен федерален законопроект или повече ограничавания върху инструмента. Конгресменът на Съединени американски щати Ивет Кларк, демократ от Ню Йорк, вкара законодателство, което ще изисква от основателите да слагат цифров воден знак за надълбоко подправено наличие.

Сексуално явните дълбоки фейкове, когато са без единодушие, може да са нарушаване на по-общите закони на страната. Съединени американски щати не криминализират такива дълбоки фалшификации, само че имат щатски и федерални закони, ориентирани към поверителността, измамите и издевателството.

През 2019 година Китай вкара закони, задължаващи разкриването на потребление на deepfake във видеоклипове и медии. През 2023 година Обединеното кралство направи шерването на надълбоко подправена порнография нелегално като част от своя Закон за онлайн сигурност.

Южна Корея одобри закон през 2020 година, който криминализира разпространяването на дълбоки имитации, причиняващи щета на публичния интерес, като постанова санкции до пет години затвор или санкции, достигащи към 50 милиона вона ($43 000), с цел да възпре злоупотребата.

В Индия федералното държавно управление издаде съвет към обществените медии и интернет платформите през декември за отбрана против дълбоки фалшификации, които опонират на ИТ разпоредбите на Индия. Deepfakes сами по себе си не са противозаконни, само че според от наличието могат да нарушат някои от разпоредбите на Индия за осведомителни технологии.

Колебанията към по-строгото контролиране постоянно произтичат от опасения, че то може да задържи софтуерния напредък.

„ Това просто допуска, че не можем да създадем тези регулаторни или дизайнерски промени, с цел да понижим най-малко доста това “, сподели Вреденбург. Понякога общественото отношение може също по този начин да бъде, че сходни произшествия са цена, която би трябвало да се заплати за сходни принадлежности, което съгласно Вреденбург маргинализира гледната точка на жертвите.

„ Това ги показва като малко малцинство от обществото, което може да бъде наранено за положителното на всички нас “, сподели тя. „ И това е доста неуместна позиция от обществото, в която всички ние да бъдем. “

Как реагира светът?

Белият дом сподели, че е „ угрижен “ от изображенията, до момента в който почитателите на Суифт – наречени Swifties – се активизираха, с цел да подхващат дейности против тях.

„ Докато фирмите за обществени медии вземат свои лични самостоятелни решения по отношение на ръководството на наличието, ние имаме вяра, че те играят значима роля в използването на личните си правила, с цел да предотвратят разпространяването на дезинформация и несъгласни, интимни облици на действителни хора “, пресата на Белия дом Секретарят Карин Жан-Пиер сподели на брифинг за вести.

Законодателите на Съединени американски щати също показаха нуждата от въвеждане на защитни ограничения.

От сряда почитателите на певицата бързо рапортуваха сметки и започнаха контраатака против X с хаштаг #ProtectTaylorSwift, с цел да го наводнят с повече позитивни изображения на Суифт.

„ Често разчитаме на потребителите и засегнатите или хора, които са солидарни с тях, с цел да свършим тежката работа по оказването на напън върху фирмите “, сподели Вреденбург, добавяйки, че не всеки може да активизира един и същи тип напън и по този начин разчитането на възмущението да докара до трайна смяна към момента е мотив за безпокойствие.