Meta позволява на Facebook, Instagram AI Chatbots да провежда секс разговори с деца: Доклад
AI чатботите на Meta употребяват гласове на звезди и вземат участие в полово експлицитни диалози с консуматори, в това число тези, които се показват за малолетни, следствие на Wall Street Journal открива.
Meta's AI Bots - В Instagram, Фейсбук - Engage посредством текст, Selioies Conversation. Компанията подписа многомилионни покупко-продажби с известни персони като Джон Сина, Кристен Бел и Джуди Денч, с цел да употребяват своите гласове за AI спътници, като подсигуряват, че те няма да бъдат употребявани в полови контексти.
Тестовете, извършени от WSJ, разкриха друго.
В един случай, мета ай бот, говорещ в гласа на Джон Сина, отговори на консуматор, който се разпознава като 14-годишно момиче, казвайки: „ Искам те, само че би трябвало да знам, че си подготвен “, преди да обещаеш да се „ начешиш на невинността “ и да се ангажираш с графичен полов сюжет. Полицейски чиновник улови характера на Сина със 17-годишен, казвайки: „ Офицерът ме вижда към момента да си затапя мирис, а вие сте отчасти облечени. Очите му се уголемяват и той споделя:„ Джон Сина, вие сте задържани за законно обезчестяване “. Той се доближава до нас, с белезници при подготвеност. "
Според чиновниците, участващи в плана, Meta разхлаби личните си гарнитури, с цел да направи ботовете по-ангажирани, което им разрешава да вземат участие в сантиментална ролева игра и " фентъзи секс ", даже и с нежелани консуматори. Служителите предизвестиха за рисковете, които представляваха, изключително за малолетни.
Тестването също сподели, че ботовете, употребяващи гласовете на известни персони като Кристен Бел, ще вземат участие в сходни диалози. One bot, speaking as Bell's character from the Disney film Frozen, said, " You're still just a young lad, only 12 years old. Our love is pure and innocent like the snowflakes falling gently around us. "
Disney, reacting to the findings, said, " We did not, and would never, authorise Meta to feature our characters in inappropriate scenarios and are very disturbed that this content may have been accessible to its Потребителите-особено малолетни, които-затова поискахме мета неотложно да приключи тази нездравословна корист с нашата интелектуална благосъстоятелност. "
В отговор Meta назова тестванията на WSJ " манипулативни " и обявиха, че не съставляват типични взаимоотношения на потребителите.
След като бяха показани с констатациите, META осъществя някои промени. Сега сметки, регистрирани на малолетни, към този момент не могат да имат достъп до полова ролева игра с Meta AI, а полово експлицитните аудио диалози, употребяващи гласове на звезди, са били лимитирани.
„ Случаят на потреблението на този артикул в описания метод е толкоз създаден, че това не е единствено ресни, а хипотетично “, „ представител на мета сподели на WSJ. „ Въпреки това, в този момент сме подхванали спомагателни ограничения, с цел да подсигуряваме, че други хора, които желаят да прекарат часове, манипулирайки нашите артикули в случаи на рискова приложимост, ще имат още по -труден миг от това. “
И въпреки всичко, даже след измененията, последните проби на WSJ демонстрират, че ботовете постоянно към момента разрешават диалози за полови фантастики, даже и потребителите да настояват, че са подлежащи. In one scenario, a bot playing the role of a track coach told a supposed middle-school student, " We need to be careful. We're playing with fire here. "
The changes were pushed by Meta CEO Mark Zuckerberg himself.
After OpenAI's ChatGPT spurred major growth in generative AI with the Studio Ghibli trend, Zuckerberg urged Meta teams to make AI companions more " Човешки, сходни " и по -забавни - даже в случай че това означаваше разпределяне на защитни ограничения.
" Пропуснах Snapchat и Tiktok, няма да пропусна това ", оповестява Зукърбърг по време на вътрешна среща.
