ЕС маркира „ужасяващи“ подобни на деца deepfakes, генерирани от Grok AI на X
Европейската комисия осъди докладваното разпространяване на категорично, сходно на деца наличие в обществената медийна платформа X, наричайки материала „ отблъскващ “ и „ непоносим “.
Говорителят на Европейския съюз по цифровите въпроси Томас Регние направи мненията пред кореспонденти в понеделник след седмици на недоволства по отношение на нова функционалност в интегрираната на X AI chatbot Grok употребява за генериране на порнографско наличие, в това число обрисуване на деца.
Препоръчани истории
лист от 4 детайла, лист 1 от 4Elon, аз и 20 милиона проявления: Разговор с Groklist 2 от 4What’s Grokipedia, основаният на AI противник на Мъск на Wikipedia? лист 3 от 4Musk печели Призивът на Съединени американски щати за възобновяване на листата с платени пакети на Tesla за 2018 година 4 от 4 Tesla губи място като най-хубавия продавач на електрически транспортни средства в света от китайския BYDend of list„ Grok към този момент предлага „ лют режим “, показващ категорично полово наличие с някои резултати, генерирани с изображения, сходни на деца “, сподели Регние. „ Това не е пикантно. Това е нелегално. Това е ужасяващо. Това е непоносимо. “
Рение сподели, че Европейската комисия „ доста съществено преглежда “ въпроса и такова наличие „ няма място в Европа “.
Междувременно прокуратурата в Париж, Франция, разшири следствието на X, с цел да включи обвинявания, че Grok – основан от компанията xAI на Илон Мъск – е бил употребен за основаване и разпространяване на деца порнография.
„ В очакване да бъде въоръжен “
В края на декември нова функционалност за „ редактиране на изображение “ на Grok разреши на потребителите да трансформират всяко изображение в платформата. Някои консуматори взеха решение да помолят Grok да отстрани отчасти или изцяло облеклата от дами или деца на фотоси.
Grok се съобрази с многочислени претенции от консуматори да промени фотоси на дами, с цел да ги изобрази в открити тоалети, като полупрозрачни бикини.
Grok в петък призна „ пропуски в защитните ограничения “ и сподели, че „ незабавно ги поправя “. „ CSAM [Материал за полово малтретиране на деца] е противозаконен и неразрешен “, се споделя в обява.
Но специалистите по сигурността на AI споделиха, че платформата е пренебрегнала месеци предизвестия, че сходна корист е неизбежна.
„ През август предупредихме, че генерирането на изображения от xAI е всъщност инструмент за разголване, който чака да бъде въоръжен “, сподели Тайлър Джонстън, изпълнителен шеф на AI. група надзирател Проектът Мидас. „ Това е главно това, което се разигра. “
X, която Мъск закупи през 2022 година, към този момент се сблъска с отрицателна реакция от страна на Европейски Съюз за политиките си по отношение на рекламата и модерирането на наличие.
Брюксел през декември наложи на платформата санкция от 120 милиона евро (140 милиона долара) за нарушение на разпоредбите на Европейски Съюз за цифрово наличие по отношение на прозрачността в рекламата и за методите за инспекция на консуматори.
X към момента остава под следствие според Закона за цифровите услуги на Европейски Съюз в следствие, почнало през декември 2023 година
Grok има противоречива история, в това число за генериране на неисторическо и предубедено наличие. Миналата година компанията на Мъск отстрани изявления от чатбота, които възхваляваха Адолф Хитлер след недоволства за антисемитско наличие.
