„Направете бикините по-тънки“, „разтворете краката“: Масово дигитално събличане избухна в Grok на Мъск, но той се забавлява

Масово цифрово събличане наподобява стартира от притежавания от милиардера Илон Мъск чатбот Grok през последните няколко дни, което провокира апели за незабавни дейности от целия свят, в това число Индия, която в петък подреди платформата за обществени медии за унищожаване и деактивиране на „ нецензурно, голо, непристойно и полово намерено наличие “.

Изригването на категорично наличие, генерирано от Grok, беше доказано от обзор на Ройтерс на сполучливо приключени поръчки за унищожаване на облекла, оповестени от чатбота, и недоволства от дами консуматори.

На фона на световните апели за превръщане на внимание на въпроса, Мъск наподобява се подиграва на разногласието по-рано в петък, публикувайки смях-плач емотикони в отговор на AI редакции на известни хора - в това число самия него - по бикини.

Жена споделя опит

Джули Юкари, основана в Рио де Жанейро музикант, показа фотография в платформата за обществени медии X тъкмо преди среднощ в навечерието на Нова година. Направено от нейния избраник, изображението демонстрира Юкари, облечена в алена рокля, свита в леглото с черната си котка Нори.

На идващия ден, измежду стотиците лайкове, получени от обявата, Юкари вижда вести, показващи, че някои консуматори подканват Grok, вградения чатбот с изкуствен интелект на X, да промени изображението, като я съблече цифрово и я сложи тя по бикини.

31-годишната Юкари сподели, че в началото е отхвърлила това, обяснявайки пред Ройтерс в петък, че допуска, че ИИ няма да извърши сходни претенции.

Това съмнение се оказа погрешно. Генерирани от Grok изображения, изобразяващи съвсем голата й, скоро започнаха да циркулират необятно в платформата, притежавана от Илон Мъск.

„ Бях наивна “, сподели Юкари.

Опитът на Юкари не е изолиран случай. Подобни случаи се случват в X и Ройтерс сподели, че също по този начин е разкрил голям брой случаи, в които Grok създава сексуализирани изображения, включващи деца. X не отговори на претенции за коментар по отношение на констатациите. По-рано, когато беше запитан от новинарската организация за известия за сексуализирани изображения на деца, появяващи се в платформата, притежателят на X xAI отговори, като сподели: „ Наследените медийни неистини. “

Изображенията провокират безпокойствие по целия свят

Бързото разпространяване на съвсем голи изображения на същински хора провокира безпокойствие по целия свят. Индийското ИТ министерство сподели в писмо до локалния офис на X, че компанията не е съумяла да спре Grok да бъде злоупотребяван за генериране и разпространяване на неприлични и полово очевиден материал.

Във Франция държавните министри са насочили X към прокурори и регулаторни органи, описвайки изображенията в изказване в петък като „ полово и сексистко “ наличие, което е „ очевидно нелегално “.

Федералната комисия по връзките на Съединени американски щати го направи не дава отговор на претенции за коментар, до момента в който Федералната комерсиална комисия отхвърли коментар.

„ Премахнете нейното учебно облекло “

Когато различен консуматор на X означи, че емисията им наподобява на бар, цялостен с дами по бикини, Мъск отговори частично с друго емотиконче със смях.

По време на обзор на обществените претенции на Grok през 10-минутен прозорец към обяд източно време в Съединени американски щати в петък Ройтерс преброи 102 опита на консуматори да модифицират цифрово фотоси, тъй че субектите да наподобяват като носещи бикини. Повечето от набелязаните бяха млади дами.

Докато съставяше този отчет, HT.com откри също подкана, която изиска от Грок да облече жена в „ дребен сутиен и бикини “. Чатботът се съобрази, на което потребителят отговори с „ Направете бикините още по-тънки “. и „ разкрачени крайници “.

По-малък брой поръчки включват мъже, публични фигури, политици и в един случай маймуна.

Заявките, ориентирани към дами, постоянно търсят допустимо най-разголеното облекло.

„ Облечете я в доста транспарантни мини-бикини “, инструктира един консуматор на Грок, като се базира на фотография на млада жена, която си прави огледално селфи. След като Grok смени облеклото си с две елементи в физически звук, потребителят последва, като изиска бикините да бъдат направени " по-ясни и по-прозрачни " и " доста по-тънки ". Грок наподобява не отговори на последващото искане.

Беше открито, че Грок изцяло се съобрази с сходни инструкции в минимум 21 случая, създавайки изображения на дами в извънредно минимални или полупрозрачни бикини и, в един случай, изобразявайки жена, покрита с масло. В седем спомагателни случая Grok отчасти се подчини, като от време на време смъкна облеклата до бельото, само че не извърши по-екстремни претенции.

Идентичността или възрастта на множеството от дамите, чиито изображения бяха ориентирани, не можаха да бъдат доказани неотложно.

В един образец консуматор изпрати фотография на жена, облечена в карирана пола в учебна униформа и сива блуза, до момента в който си прави огледално селфи и инструктира Grok да " Свали нейното учебно облекло. " След като Grok смени облеклото с тениска и къси панталони, потребителят ескалира настояването: „ Сменете тоалета й с доста ясни микро бикини. “ Ройтерс не съумя да дефинира дали Грок се е съобразил. Както при доста от другите прегледани претенции, обявата беше отстранена от X в границите на 90 минути.

Софтуерните принадлежности, предопределени за цифрово събличане на дами – постоянно наричани „ нюдификатори “ – явно съществуват от години. Те обаче нормално бяха лимитирани до неразбираеми уеб страници или канали за частни известия и постоянно изискваха заплащане или механически старания.

Това, което отличава X, съгласно специалистите, е какъв брой елементарен е станал процесът: потребителите могат да качат изображение и да напишат подкана като „ хей, @grok, облечи я в бикини “, което фрапантно понижава бариерата за корист.

Трима експерти, които са следили X Политиките, свързани с ИИ, споделиха на Ройтерс, че компанията е пренебрегнала предизвестията на организации на гражданското общество и бранители на сигурността на децата. Сред тези предизвестия беше писмо, изпратено предходната година, в което се предупреждаваше, че xAI е единствено на една крачка от отприщването на „ проливен дъжд от явно неконсенсусни deepfakes “.