XAI на Илън Мъск под обстрел, защото не успя да овладее „цифровото събличане“
Вижте всички тематики Връзката е копирана! Следвайте
AI chatbot на Илон Мъск, Grok, е наводнен със полови изображения на основно дами, доста от които действителни хора. Потребителите подканиха чатбота да „ съблече цифрово “ тези хора и от време на време да ги сложи в подсказващи пози.
В няколко случая предходната седмица някои изглеждаха изображения на малолетни, което докара до основаването на изображения, които доста консуматори назовават детска порнография.
Изображенията, генерирани от изкуствен интелект, акцентират заплахите от изкуствения разсъдък и обществените медии – изключително в композиция – без задоволително парапети за отбрана на някои от най-уязвимите групи в обществото. Изображенията могат да нарушат вътрешните и интернационалните закони и да слагат доста хора, в това число деца, в заплаха.
Мъск и xAI споделиха, че подхващат дейности „ против противозаконното наличие на X, в това число материали за полово малтретиране на деца (CSAM), като го отстраняват, непрестанно стопират сметки и работят с локалните управляващи и правоприлагащите органи, в случай че е належащо. “ Но отговорите на Grok на потребителски претенции към момента са залети с изображения, сексуализиращи дами.
Публично Мъск от дълго време се застъпва против „ събудените “ AI модели и против това, което той назовава цензура. Вътрешно в xAI, Мъск се отдръпна от парапетите за Grok, сподели пред CNN източник, осведомен със обстановката в xAI. Междувременно екипът по сигурност на неговия xAI, който към този момент е дребен спрямо съперниците си, загуби няколко чиновници през седмиците, водещи до детонацията на „ цифровото събличане “.
„ Дигитално събличане “ на хора
Grok постоянно се е отличавал от другите всеобщи модели на AI, като разрешава, а в някои случаи и предизвиква, полово намерено наличие и съпътстващи аватари.
И за разлика от съперници като Gemini на Гугъл или ChatGPT на OpenAI, Grok е вграден в една от най-популярните обществени медийни платформи, X. Въпреки че потребителите могат да приказват с Grok уединено, те могат също да маркират Grok в обява със поръчка и Grok ще отговори обществено.
Неотдавнашният скок на необятно публикуваното „ цифрово събличане “ без единодушие стартира в края на декември, когато доста консуматори откриха, че могат да маркират Grok и да го помолят да редактира изображения от X обява или нишка.
Първоначално доста изявления желаеха Grok да сложи хора по бикини. Мъск разгласява наново изображения на себе си и на други, като дългогодишния зложелател Бил Гейтс, по бикини.
Изследователи от Copyleaks, платформа за разкриване и ръководство на наличие с изкуствен интелект, откриха, че наклонността може да е почнала, когато основателите на наличие за възрастни са подтикнали Grok да генерира сексуализирани изображения на себе си като форма на маркетинг. Но съвсем незабавно „ потребителите започнаха да издават сходни подкани за дами, които в никакъв случай не са изглеждали съгласни с тях “, откри Copyleaks.
Изследователи от AI Forensics, европейска организация с нестопанска цел, която изследва логаритми, проучиха над 20 000 случайни изображения, генерирани от Grok, и 50 000 потребителски поръчки сред 25 декември и 1 януари.
Изследователите откриха „ високо разпространяване на термини, в това число „ нейният “ „ постави “/„ премахни “, „ бикини “ и „ облекла “. Повече от половината от изображенията, генерирани на хора, или 53%, „ съдържаха хора в минимално облекло като долни дрехи или бикини, от които 81% бяха лица, представящи се като дами “, откриха откривателите. По-специално, 2% от изображенията изобразяват хора, които наподобяват на 18 години или по-млади, откриха откривателите.
AI Forensics също откри, че в някои случаи потребителите са желали малолетни да бъдат сложени в еротични пози и полови течности да бъдат изобразени върху телата им. Grok се съобрази с тези претенции, съгласно AI Forensics.
Въпреки че X позволява порнографско наличие, личната „ политика за допустима приложимост “ на xAI не разрешава „ Изобразяване на прилики на лица по нецензурен метод “ и „ Сексуализация или употреба на деца “. X спря някои сметки за този тип претенции и отстрани изображенията.
На 1 януари консуматор на X се оплака, че „ предлагането на функционалност, която извежда на повърхността хора по бикини, без вярно да я предотврати да работи върху деца, е извънредно безконтролно “. Служител на xAI отговори: " Хей! Благодаря за сигнализирането. Екипът търси опция за по-нататъшно стягане на защитните ни стени (sic). "
Когато беше подканен от потребителите, самият Grok призна, че е генерирал някои изображения на малолетни в полово хипотетични обстановки.
" Оценяваме, че повдигнахте това. Както беше маркирано, ние идентифицирахме пропуски в защитните ограничения и незабавно ги поправяме - CSAM е нелегално и неразрешено ", разгласява Грок на 2 януари, насочвайки потребителите да подават публични отчети до ФБР и Националния център за изчезнали и експлоатирани деца.
До 3 януари самият Мъск разяснява обособена обява: „ Всеки, който употребява Grok за основаване на нелегално наличие, ще понесе същите последици, както в случай че качи нелегално наличие. “
Профилът за сигурност на X последва, добавяйки: „ Ние подхващаме дейности против противозаконното наличие на X, в това число материали със полово малтретиране на деца (CSAM), като го отстраняваме, дефинитивно стопираме сметки и работим с локалните управляващи и правоприлагащите органи, в случай че е належащо. “
Мъск се опълчва на цензурата
Мъск от дълго време се опълчва на това, което той счита за груба цензура. И той разпространява по-явните версии на Grok. През август той разгласява, че „ пикантният режим “ е оказал помощ на новите технологии в предишното, като VHS, да съумеят.
Според източник, осведомен със обстановката в xAI, Мъск „ е бил неудовлетворен от несъразмерното цензуриране “ на Grok „ отдавна “. Втори източник, осведомен със обстановката в X, сподели, че чиновниците непрекъснато са изразявали угриженост вътрешно и пред Мъск по отношение на цялостното неуместно наличие, основано от Grok.
Източник: cnn.com
