Явни, генерирани от AI изображения на Taylor Swift се разпространяват бързо в социалните медии

Порнографски, генерирани от изкуствен интелект изображения на най-известната звезда в света се разпространиха в обществените медии тази седмица, наблягайки нездравословния капацитет, подбуден от главната технология за изкуствен интелект: нейната дарба да основава безапелационно действителни и нездравословни изображения.

Фалшивите изображения на Тейлър Суифт най-вече циркулираха в уеб страницата на обществените медии X, прочут преди като Twitter. Снимките – които демонстрират певицата в полови и експлицитни пози – бяха гледани десетки милиони пъти, преди да бъдат отстранени от обществените платформи. Но нищо в интернет в действителност не е изчезнало вечно и те безспорно ще продължат да се споделят в други, по-малко контролирани канали.

Говорителят на Swift не отговори на искане за коментар.

Подобно на множеството огромни обществени медийни платформи, политиките на X не разрешават шерването на „ синтетични, манипулирани или отвън подтекста медии, които могат да заблудят или объркат хората и да доведат до щета “.

Компанията не отговори на настояването на CNN за коментар.

Инцидентът идва, когато Съединените щати навлизат в годината на президентските избори и нарастват опасенията за това по какъв начин подвеждащи изображения и видеоклипове, генерирани от AI, могат да бъдат употребявани за поощряване на напъните за дезинформация и в последна сметка да осуетят вота.

„ Това е отличен образец за методите, по които изкуственият разсъдък се отприщва по доста нечестиви аргументи, без да има задоволително парапети, с цел да отбрани публичния площад “, сподели Бен Декър, който ръководи Memetica, организация за цифрови следствия, пред CNN.

Декър сподели, че потреблението на генеративни AI принадлежности за основаване на евентуално нездравословно наличие, ориентирано към всички типове обществени персони, се усилва бързо и се популяризира по-бързо от всеки път в обществените медии.

„ Компаниите за обществени медии в действителност нямат ефикасни проекти за наложително наблюдаване на наличието “, сподели той.

X, да вземем за пример, значително изкорми своя екип за модериране на наличие и разчита на автоматизирани системи и докладване на потребителите. (В Европейски Съюз сега X се проверява по отношение на практиките му за модериране на съдържание).

Meta също направи съкращения в своите екипи, които се борят с дезинформацията и координира акции за тролове и тормоз в своите платформи, споделиха хора, осведомени директно със обстановката, пред CNN, което поражда опасения преди основните избори през 2024 година в Съединени американски щати и по света.

Не е ясно от кое място произлизат изображенията, свързани с Тейлър Суифт. Въпреки че някои изображения бяха открити на уеб сайтове като Instagram и Reddit, те бяха необятно публикуван проблем по-специално в X.

Инцидентът също по този начин съответствува с възхода на принадлежности за генериране на AI като ChatGPT и Dall-E. Съществува обаче и доста по-широк свят от немодерирани небезопасни за работа AI модели в платформи с отворен код, сподели Декър.

„ Това е индикатор за по-голям тип накъсване на модерирането на наличието и ръководството на платформата, тъй като в случай че всички заинтригувани страни – фирмите за изкуствен интелект, фирмите за обществени медии, регулаторите и гражданското общество – не приказват за едни и същи неща и на една и съща страница за това по какъв начин да се оправят тези проблеми, този вид наличие просто ще продължи да се популяризира “, добави той.

Декър сподели обаче, че насочването към Swift може да притегли повече внимание към възходящите проблеми към генерираните от AI изображения. Огромният контингент от лоялни „ Swifties “ на Суифт изрази възмущението си в обществените медии тази седмица, извеждайки казуса на напред във времето. През 2022 година сривът на Ticketmaster преди нейния концерт на Eras Tour провокира яд онлайн, което докара до няколко законодателни старания за унищожаване на неподходящите за потребителите политики за билети.

Може би същото ще важи и за повреждането на изображения, генерирани от AI, допусна Декер.

„ Когато имате фигури като Тейлър Суифт, които са толкоз огромни [набелязани], може би това е нещото, което подтиква законодателите и софтуерните компании да подхващат дейности, тъй като не могат да си разрешат обичаната на Америка да бъде в обществена акция против тях “, сподели той. „ Бих споделил, че би трябвало да я накарат да се почувства по-добре, тъй като тя има евентуално по-голямо въздействие от съвсем всеки различен в интернет. “

Този вид технология се употребява за основаване на това, което е известно като „ порно за възмездие “ – издание на изрични изображения на някого онлайн без негово съгласие – от известно време, само че в този момент още веднъж притегля вниманието поради обидните фотоси на Суифт.

В момента девет американски щата имат закони против основаването или шерването на дълбоки подправени фотографии без единодушие, които са синтетични изображения, основани, с цел да имитират нечия аналогия.