„Видях лицето си да говори на различен език“: влиятелните лица, клониращи изкуствения интелект
По-рано тази година 20-годишната украинска авторитетна Олга Лойек се изправи лице в лице с войска от нейни клонинги, генерирани от изкуствен интелект онлайн — и всички те говореха китайски.
„ Наистина бях уплашен. Видях лицето си да споделя нещо на друг език. След това, когато отидох и го преведох, всичко това бяха неща, които в никакъв случай не бих споделила в живота си “, сподели тя пред Financial Times, добавяйки, че героинята deepfake приказва за „ подсилване на връзките сред Русия и Китай “.
Лойек, която беше предизвестена за видеоклиповете от някои от нейните 20 000 почитатели в YouTube и Instagram, сподели, че не е наясно с претекста зад клонирането, само че подозира, че нейното сходство може да е било употребявано като част от акция за дезинформация. Видеоклиповете се разпространиха в китайските обществени медийни уеб сайтове Xiaohongshu, което се превежда като „ дребна алена книга “, и Bilibili, като един подправен акаунт притегли 300 000 почитатели.
„ Звучеше като агитация, опитваща се да накара хората да повярват, че Русия е страхотна страна, [когато] войната в Украйна е най-лошото нещо, което се е случвало в живота ми “, добави тя.
Случаят на Loiek е образец за това по какъв начин генеративната AI технология се злоупотребява от подли артисти, които крадат образната идентичност на нищо неподозиращите жертви, с цел да основат дълбоки подправени изображения. Тези синтетични двойници се употребяват за акции за дезинформация, само че също по този начин и за разпространение на артикули в обществените медии или в дълбока подправена порнография без единодушие.
Бързият прогрес в генеративния AI разшири пазара за безвъзмездни и лесни за потребление принадлежности за основаване на синтетични видеоклипове и изображения. Deepfakes на звезди, в това число Тейлър Суифт, Селена Гомес и Илон Мъск, са основани, с цел да разпространяват всичко - от кухненски принадлежности до крипто измами.
Но не става въпрос единствено за мегазвезди: по-малко известни основатели на наличие, и по-специално дами, също станаха цели за тази нова форма на онлайн корист.
Влиятелните лица, които постоянно разгласяват видеоклипове и изображения на лицата си в интернет, са изключително уязвими, защото колкото повече наличие има на индивида, с цел да образова AI, толкоз по-реалистичен ще бъде имитаторът.
Без лесна правна отбрана се появиха започващи компании, които се пробват да употребяват AI, с цел да се оправят с казуса.
Една такава компания, Ceartas, беше основана, откакто нейният създател Дан Пърсел се бореше да откри способи да отстрани свои интимни изображения, изтекли онлайн. Първоначално бизнесът се концентрира върху подпомагането на основателите на възрастни в OnlyFans да подсигуряват, че тяхното наличие не се копира в други платформи.
„ Преди към година и половина започнахме да виждаме deepfake “, сподели Пърсел.
Той сподели, че Ceartas – което значи правдивост на галски – може да разпознава deepfake „ за милисекунди “. След това подхваща стъпки, с цел да го отстрани от търсачката на Гугъл и от всички други хостинг платформи, като реши какви условия на услугата или закони, като авторско право, може да наруши.
Друга компания, Alecto, създава сходен артикул, при който потребителите могат да качват сканирания на лицата си в платформата, която по-късно ще употребява AI за търсене на интимни изображения, в това число дълбоки подправени версии.
Проследяването на тези видеоклипове може да бъде мъчно. Инфлуенсъри като Loiek и Michel Janse, друга цел на deepfakes, са разчитали на своите почитатели да маркират наличие вместо тях. Приликата на Janse беше употребена в реклама в YouTube за разпространение на добавки за еректилна дисфункция.
„ Честно казано не знам по какъв начин можем да бъдем по-проницателни като общество, с цел да кажем кое е същинско или кое е подправено “, сподели тя, предупреждавайки почитателите си за дълбоките подправени известия в TikTok. Ръководството й заяви за рекламата на YouTube, който я отстрани.
YouTube сподели, че отбраната на потребителите е „ главен приоритет “ и влага съществено в своята „ дарба да открива и отстранява надълбоко подправени лъжливи реклами и неприятните артисти зад тях, както направихме в този случай “.
Генерираното от AI наличие е позволено в TikTok, Instagram, X и YouTube, само че те значително не разрешават съзнателно лъжливи манипулирани медии — както и нарушавания на авторски права, измами и голота без единодушие, без значение от потреблението на AI..
Повечето приложения за генериране на изкуствен интелект също имат насоки по отношение на вида наличие, което могат да употребяват за основаване. Не е ясно обаче по какъв начин започващите компании могат да наложат това.
Инструменти от основаната в Лос Анджелис HeyGen бяха употребявани за основаването на един от дълбоките имитации на Loiek и неговата технология се употребява и в други артикули посредством софтуерен плъгин, което затруднява управлението на всяка приложимост. HeyGen не отговори на искане за коментар.
Въпреки това, упоритостта на компании за AI аватари като HeyGen и противници, в това число Synthesia и Soul Machines, е да основат рентабилни AI принадлежности за законна комерсиална приложимост, в това число основаване на рекламно наличие за обществени медии.
Миналия месец основаната в Ню Йорк предприемачка Беки Литвин опитва с AI, с цел да сътвори надълбоко подправена обява на инфлуенсър, рекламираща нейната марка мокри кърпички Get Dirty. Тя разгласява видеоклипа на X, обозначен като AI, с цел да реши реакцията.
Ужасно е, само че към момента мисля, че е диво, че всичко това може да се направи с AI. Представете си след 6 месеца… pic.twitter.com/L1ycB3IkAk
— БекИзточник: ft.com
