Фалшиви и изрични изображения на Тейлър Суифт започнаха в 4chan, казва проучването
Изображенията на Тейлър Суифт, които са били генерирани от изкуствен интелект и са се разпространили широко в социалните медии в края на януари, вероятно произхождат като част от повтарящо се предизвикателство на един от най-известните табла за съобщения в интернет, според нов доклад.
Graphika, изследователска фирма, която изучава дезинформация, проследи изображенията обратно към една общност в 4chan, табло за съобщения, известно със споделяне на реч на омразата, теории на конспирацията и все по-често расистко и обидно съдържание, създадено с помощта на AI.
Хората в 4chan, които създадоха изображения на певицата са направили това в нещо като игра, казаха изследователите - тест, за да се види дали могат да създадат непристойни (и понякога насилствени) изображения на известни женски фигури.
Синтетичните изображения на Swift се разпространиха върху други платформи и бяха гледани милиони пъти. Феновете се събраха в защита на г-жа Суифт, а законодателите поискаха по-силна защита срещу изображения, създадени от AI.
чрез игрите позволява на хората да се чувстват свързани с по-широка общност и те са мотивирани от кеша, който получават за участие, казаха експерти. Преди междинните избори през 2022 г. групи в платформи като Telegram, WhatsApp и Truth Social се заеха с лов за изборни измами, печелене на точки или почетни титли за представяне на предполагаеми доказателства за злоупотреби с гласоподаватели. (Истинското доказателство за измама с бюлетини е изключително рядко.)В нишката на 4chan, която доведе до фалшивите изображения на г-жа Суифт, няколко потребители получиха комплименти — „красиво поколение ”, написа един – и бяха помолени да споделят подканващия език, използван за създаване на изображенията. Един потребител се оплака, че подкана е създала изображение на знаменитост, облечена по бански, а не гола.
Правилата, публикувани от 4chan, които се прилагат в целия сайт, не забраняват изрично сексуално явен Генерирани от AI изображения на истински възрастни.
„Тези изображения произхождат от общност от хора, мотивирани от „предизвикателството“ да заобиколят предпазните мерки на генеративния ИИ. продукти, а новите ограничения се разглеждат като просто още едно препятствие пред „поражението“, каза Кристина Лопес Г., старши анализатор в Graphika, в изявление. „Важно е да разберем геймифицирания характер на тази злонамерена дейност, за да предотвратим по-нататъшна злоупотреба при източника.“
порок поне от 2017 г., засягащ неволни знаменитости, правителствени фигури, стриймъри на Twitch, студенти и други. Разпокъсаното регулиране оставя на малко жертви средства за правна защита; дори по-малко имат отдадена база от фенове, за да заглушат фалшивите изображения с координирани публикации „Защитете Тейлър Суифт“.След като фалшивите изображения на г-жа Суифт станаха вирусни, Карин Джийн Пиер, прессекретарят на Белия дом, нарече ситуацията „тревожна“ и каза, че слабото прилагане от компаниите за социални медии на собствените им правила непропорционално засяга жените и момичетата. Тя каза, че Министерството на правосъдието наскоро е финансирало първата национална линия за помощ за хора, обект на сексуално насилие, базирано на изображения, което министерството описва като посрещане на „нарастващата нужда от услуги“, свързани с разпространението на интимни изображения без съгласие. SAG-AFTRA, съюзът, представляващ десетки хиляди актьори, нарече фалшивите изображения на г-жа Суифт и други „кражба на личния им живот и правото им на автономия.“
Измами, включващи съдове за готвене Le Creuset. ИИ беше използван за представяне на гласа на президента Байдън в автоматични обаждания, разубеждаващи избирателите да участват в първичните избори в Ню Хемпшир. Технологичните експерти казват, че тъй като A.I. инструментите стават по-достъпни и по-лесни за използване, аудио фалшификати и видеоклипове с реалистични аватари могат да бъдат създадени само за минути.Изследователите казаха, че първият сексуално явен И.И. изображението на г-жа Суифт в нишката на 4chan се появи на 6 януари, 11 дни преди да се твърди, че са се появили в Telegram и 12 дни преди да се появят в X. 404 Media съобщи на 25 януари, че вирусните изображения на Swift са скочили в основните социални медийни платформи от 4chan и група в Telegram, посветени на обидни изображения на жени. Британската новинарска организация Daily Mail съобщи тази седмица, че уебсайт, известен със споделянето на сексуализирани изображения на знаменитости, е публикувал изображенията на Swift на 15 януари.
В продължение на няколко дни X блокира търсения за Тейлър Суифт „с много предпазливост, за да можем да сме сигурни, че почистваме и премахваме всички изображения“, каза Джо Бенарок, ръководител на бизнес операциите на компанията.
