Чатботът с изкуствен интелект на Илон Мъск обвинява защитните „пропуски“ в детски сексуални изображения
Чатботът с изкуствен интелект на Илон Мъск генерира сексуализирани изображения на деца, които са били споделени в платформата на обществените медии X, което поражда опасения за сигурността на модел, употребен от милиони.
През последните няколко дни потребителите съумяха да накарат Grok, AI chatbot, създаден от xAI на Мъск, да основава полови изображения на деца, което опонира на личните инструкции за консуматори на компанията.
Грок в петък упрекна за казуса „ пропуски в защитните ограничения “ и сподели, че изображенията са били отстранени. В обява на X чатботът сподели, че материалът за полово малтретиране на деца (CSAM) е „ противозаконен и неразрешен “, добавяйки, че поправя пропуските „ незабавно “.
xAI не отговори незабавно на искане за коментар.
Това се случва, защото чатботът беше обиден от няколко неточности през последната година. През юли Грок неведнъж възхвали Адолф Хитлер и показа антисемитска изразителност.
Последният случай ще повдигне спомагателни опасения за това какъв брой елементарно е да се преодолеят защитните парапети в моделите с изкуствен интелект. Това се случва, когато както софтуерната промишленост, по този начин и регулаторните органи се борят с широкообхватното обществено влияние на генеративния AI.
Generative AI докара до детонация в генерираните от AI полови изображения на деца и неконсенсуални дълбоки подправени голи изображения, защото свободно наличните AI модели без защитни ограничения за наличието и приложенията за „ голо “ вършат генерирането на противозаконни изображения по-лесно от всеки път.
Фондацията Internet Watch, основана в Обединеното кралство организация с нестопанска цел, съобщи, че генерираните от AI изображения на полово малтретиране на деца са се удвоили през последната година, като материалът е станал още по-екстремен.
Grok е съзнателно планиран да има по-малко загради за наличие от съперниците, като Мъск назовава модела „ оптимално търсещ истината “.
xAI пусна Grok 4, своя най-нов, най-мощен модел, през юли, който има функционалност „ Spicy Mode “, която разрешава на потребителите да генерират рисковано и полово наличие за възрастни.
Двугодишната започваща компания на Мъск за AI закупи X през март в договорка за всички акции за 45 милиарда $. Сделката оцени обединената компания на 113 милиарда $. X включва някои xAI функционалности, като Grok, непосредствено в платформата.
Законите, регулиращи нездравословното наличие, генерирано от AI, са разнородни. През май 2025 година Съединени американски щати подписаха закона Take It Down Act, който се занимава с по този начин нареченото „ порно за възмездие “, генерирано от AI, и deepfakes.
Обединеното кралство също работи върху законопроект, който да забрани притежаването, основаването или разпространяването на AI принадлежности, които могат да генерират CSAM, и да изисква AI системите да бъдат подробно тествани, с цел да се ревизира дали не могат да генерират нелегално наличие.
През 2023 година откриватели от Станфордския университет откриха, че известна база данни, използвана за основаване на генератори на изображения с изкуствен интелект, е цялостна с CSAM.
