ЕС разследва платформата X на Мъск срещу AI chatbot Grok sexual deepfakes

Европейският съюз стартира публично следствие на платформата X за обществени медии на Илон Мъск в понеделник, откакто неговият чатбот Grok с изкуствен интелект излъчи без единодушие сексуализирани deepfake изображения в платформата.

Европейските регулатори също разшириха настрана настоящо следствие на системите за рекомендации на X, откакто платформата сподели, че ще премине към Системата за изкуствен интелект на Grok, с цел да избира кои изявления да виждат потребителите.

Проверката от Брюксел идва, откакто Grok провокира световна реакция, като разреши на потребителите посредством своите благоприятни условия за генериране на изображения с изкуствен интелект и редактиране да събличат хора, поставяйки дами в транспарантни бикини или разкриващи облекла.

Изследователите споделиха, че някои изображения наподобява включват деца. Някои държавни управления не разрешиха услугата или издадоха предизвестия.

Изпълнителният орган на 27-те страни от Европейски Съюз съобщи, че изследва дали X е направил задоволително, както се изисква от цифровите разпореждания на блока, с цел да ограничи рисковете от разпространяване на нелегално наличие като „ манипулирани полово очевидни изображения “.

Това включва наличие, което „ може да се равнява на материал за полово принуждение над деца “, сподели Европейската комисия. Тези опасности към този момент са се „ материализирали “, сподели комисията, излагайки жителите на блока на „ сериозна щета “.

Регулаторите ще ревизират дали Grok извършва отговорностите си според Закона за цифровите услуги, широкообхватната книга с правила на блока за предотвратяване на интернет потребителите от нездравословно наличие и артикули.

Получавайте изключителни национални вести

В отговор на искане за коментар, представител на X насочи Асошиейтед прес към по-ранно изказване, че компанията остава „ отдадена на превръщането на X в безвредна платформа за всички “ и че има „ нулева приемливост “ към детски полов живот употреба, голота без единодушие и нежелано полово наличие.

Изявлението на X от 14 януари също по този начин споделя, че ще спре да разрешава на потребителите да изобразяват хора в „ бикини, долни дрехи или друго разкриващо облекло “, само че единствено тук-там, където това се смята за нелегално.

„ Сексуалните дълбоки фалшификации на дами и деца без единодушие са насилствена, неприемлива форма на деградация “, Хена Virkkunen, изпълнителен вицепрезидент на комисията, сподели в изказване.

„ С това следствие ще определим дали X е извършил законовите си отговорности според DSA или дали е третирал правата на европейските жители – в това число тези на дамите и децата – като съпътстваща щета на услугата си “, сподели Virkkunen, който следи софтуерния суверенитет, сигурността и демокрацията.

Изкуственото на Мъск разследващата компания xAI започва инструмента за изображения на Grok предишното лято. Но казусът стартира да нараства едвам в края на предишния месец, когато Grok наподобява удовлетвори огромен брой поръчки на консуматори за смяна на изображения, оповестени от други.

Проблемът беше засилен както тъй като Мъск показва своя чатбот като по-остра опция с по-малко защитни ограничения от противниците, по този начин и тъй като отговорите на Grok на X са обществено забележими и затова могат елементарно да бъдат публикувани.

Разследването на Европейски Съюз обгръща единствено услугата на Grok на X, а не уеб страницата и независимото приложение на Grok. Това е по този начин, тъй като DSA се ползва единствено за най-големите онлайн платформи.

Няма краен период за блока да позволи случая, който може да приключи с ангажимент на X да промени държанието си или солидна санкция.

През декември Брюксел наложи на X санкция от 120 милиона евро (тогава - 140 милиона долара) като част от по-ранното настоящо следствие на DSA за дефекти, в това число сини отметки, които наруши разпоредбите за „ лъжливи дизайнерски практики “, които рискуваха да изложат потребителите на измами и операция.

Блокът също по този начин изследва X по отношение на обвиняванията, че Grok е генерирал антисемитски материал и изиска от уеб страницата повече информация.

Малайзия и Индонезия блокираха достъпа до Grok по-рано този месец в отговор на разногласието, като станаха първите страни, които го направиха.

В петък, Малайзийските управляващи обявиха, че са премахнали краткотрайното ограничаване, откакто компанията е приложила спомагателни ограничения за сигурност и превантивни ограничения, без да дават повече детайлности. Малайзийските регулатори споделиха, че са се срещнали предходната седмица с представители на X и ще продължат да следят обстановката.