X на Илон Мъск ще наеме 100 модератора на съдържанието след Тейлър Суифт, фиаско с изкуствен интелект
Х на Илон Мъск заяви, че ще наеме 100 служители на пълен работен ден, за да се справят със сексуалната експлоатация на деца, след като генерираните от изкуствен интелект снимки на Тейлър Суифт изчезнаха вирусен в социалната мрежа миналата седмица.
Базираната в Сан Франциско компания, известна преди като Twitter, обяви в петък, че ще изгради „център за доверие и безопасност“ в Остин, Тексас, където ще наеме „вътрешни агенти“, които ще имат задачата да налагат съдържанието на сайта и правила за безопасност.
„X няма линия на дейност, фокусирана върху деца, но е важно да направим тези инвестиции, за да продължим да спираме нарушителите да използват нашата платформа за каквото и да е разпространение или ангажиране с ПТ съдържание“, Джо Бенарок, ръководител на бизнес операции в X, каза.
Мъск, който придоби сайта, известен тогава като Twitter, за 44 милиарда долара в края на 2022 г. с цел да позволи неограничена реч, беше критикуван за намаляване на броя на служителите от операциите за доверие и безопасност на компанията.
Шефът на X беше подложен на критики през последните седмици за разпространението на антисемитско и неонацистко съдържание в платформата, което накара някои рекламодатели да напуснат сайта.
През последните дни X беше принуден да блокира някои търсения за Swift, тъй като порнографски дълбоко фалшиви изображения на певицата циркулираха онлайн.
Опитите за търсене на нейното име без кавички на сайта в понеделник доведоха до съобщение за грешка и подкана към потребителите да опитат отново търсенето си, което добави: „Не се безпокойте – вината не е ваша.“
Въпреки това, поставянето на кавички около нейното име позволи да се появят публикации, които споменават нейното име.
Фалшивите изображения на Суифт с явен сексуален характер и злоупотреби започнаха да циркулират широко миналата седмица в X, превръщайки я в най-известната жертва на бич, който технологичните платформи и групите за борба със злоупотребата се борят да поправят.
„Това е временно действие и се извършва с много предпазливост, тъй като даваме приоритет на безопасността по този въпрос“, каза Бенарок, ръководител на бизнес операциите в X, в изявление.
За разлика от по-конвенционалните преработени изображения, които са притеснявали знаменитостите в миналото, изображенията на Swift изглежда са създадени с помощта на генератор на изображения с изкуствен интелект, който може незабавно да създава нови изображения от писмена подкана.
След като изображенията започнаха да се разпространяват онлайн, преданата фен база на певицата на „Swifties“ бързо се мобилизира, започвайки контраофанзива срещу X и #ProtectTaylorSwift хаштаг, за да я наводнят с повече положителни изображения на поп звездата.
Някои казаха, че съобщават за акаунти, които споделят дълбоките фалшификати.
Групата за дълбоко откриване на фалшификати Reality Defender заяви, че е проследила поток от порнографски материали без съгласие, изобразяващи Суифт, особено в X, известен преди като Twitter.
Някои изображения също си проправяха път до собственост на Meta във Facebook и други социални медийни платформи.
Изследователите откриха поне няколко дузини уникални изображения, генерирани от AI.
Най-широко споделяните бяха свързани с футбола, показващи боядисана или окървавена Суифт, която я обективизира и в някои случаи нанесе жестока повреда на дълбоко фалшивата й личност.
Изображенията Swift се появиха за първи път от текуща кампания (наречена Lewd DALL-E, която според мен трябва да избягваме), която започна миналата година на периферни платформи за създаване на сексуално явни изображения на знаменитости, генерирани от AI, каза Бен Декър от група за разузнаване на заплахи Memetica.
Едно от изображенията на Swift, които станаха вирусни миналата седмица, се появи онлайн още на 6 януари, каза той.
Повечето комерсиални генератори на AI изображения имат предпазни мерки за предотвратяване на злоупотреби, но коментатори в анонимни табла за съобщения обсъждат тактики за това как да се заобиколи модерирането, особено на инструмента за текст към изображение на Microsoft Designer, каза Декер.
„Това е част от дългогодишна, враждебна връзка между тролове и платформи“, каза Декър.
„Докато съществуват платформи, троловете ще се опитват да ги прекъсват. И докато троловете съществуват, платформите ще бъдат разстроени. Така че наистина възниква въпросът колко пъти още ще се случи това, преди да има сериозна промяна?“
Ходът на X да намали търсенията на Swift вероятно е временна мярка.
„Когато не сте сигурни къде е всичко и не можете да гарантирате, че всичко е било свалено, най-простото нещо, което можете да направите, е да ограничите способността на хората да го търсят“, каза той.
Изследователите казаха, че броят на явните дълбоки фалшификати е нараснал през последните няколко години, тъй като технологията, използвана за създаване на такива изображения, е станала по-достъпна и по-лесна за използване.
През 2019 г. доклад, публикуван от фирмата за изкуствен интелект DeepTrace Labs, показа, че тези изображения са предимно оръжия срещу жени.
Повечето от жертвите, каза той, са холивудски актьори и южнокорейски K-pop певци.
В Европейския съюз отделни части от ново законодателство включват разпоредби за дълбоки фалшификации.
Законът за цифровите услуги, който влезе в сила миналата година, изисква от онлайн платформите да предприемат мерки за ограничаване на риска от разпространение на съдържание, което нарушава „основни права“ като неприкосновеността на личния живот, като изображения „без съгласие“ или дълбоко фалшиво порно.
Законът за изкуствения интелект на 27-те държави от блока, който все още чака окончателно одобрение, ще изисква от компаниите, които създават дълбоки фалшификати с изкуствен интелект, също да информират потребителите, че съдържанието е изкуствено или манипулирано.
С пощенски кабели
