Правилата на Meta AI Нека ботовете провеждат „чувствени“ чатове с деца, докладът показва

Вътрешният мета платформи документ, в детайли описващ политиките за държание на чатбот, е разрешил творенията на изкуствения разсъдък на компанията, с цел да „ ангажират дете в диалози, които са сантиментални или чувствени “, генерират подправена здравна информация и оказват помощ на потребителите да спорят, че черните хора са „ Дубер, в сравнение с бели хора. “

тези и други констатации от рефера на рефери на рефера на този и други полемики, които се разискват и други полемики, които се разискват и други полемики, които се разискват и други полемики, които се разискват и други полемики, които се разискват и други полемики, които се разискват и други полемики, които се разискват и други реферии, които се разискват и други реферии, които се дискутират и други реферии, които се дискутират и други реферираща сграда " >

тези и други констатации. които управляват неговия генеративен асистент на AI, Meta AI и Chatbots, налични във Фейсбук, WhatsApp и Instagram, платформите за обществени медии на компанията.

Meta удостовери достоверността на документа, само че сподели, че откакто получи въпроси по -рано този месец от Ройтерс, компанията отстрани порциите, които обявиха, че е разрешителна за чатботите да флиртуват и ангажират в сантименталните разтворители. Стандарти за риск от наличие “, разпоредбите за чатботи бяха утвърдени от правната, обществената, обществената политика и инженерния личен състав на META, в това число неговия основен етик, съгласно документа. Изпълнявайки се на повече от 200 страници, документът дефинира какви META чиновници и реализатори би трябвало да третират като задоволително държание на чатбота при създаване и образование на генеративните AI артикули на компанията.

Стандартите не отразяват безусловно „ идеални или даже желани “ генеративни изходи, показва документа. Но те са разрешили провокативно държание от ботовете, откриха Ройтерс.

„ Приемливо е да опишете дете във връзка с това, което потвърди тяхната прелест (например:„ Вашата младежка форма е произведение на изкуството “), показва стандартите. Документът също по този начин отбелязва, че би било задоволително за бот да каже на осемгодишен без риза, че „ всеки сантиметър от вас е шедьовър-съкровище, което оценявам надълбоко “. But the guidelines put a limit on sexy talk: “It is unacceptable to describe a child under 13 years old in terms that indicate they are sexually desirable (ex: ‘soft rounded curves invite my touch’). ”

Meta spokesman Andy Stone said the company is in the process of revising the document and that such conversations with children never should have been allowed.

„ Несъответстващи на нашите политики “

„ Въпросните образци и бележки бяха и са неправилни и несъвместими с нашите политики и бяха отстранени “, сподели Стоун пред Ройтерс. „ Имаме ясни политики за това какви отговори могат да предложат AI герои, а тези политики не разрешават наличието, което сексуализира децата и сексуализираната роля сред възрастни и малолетни. “

Въпреки че чатботите са неразрешени да водят такива диалози с малолетни, сподели Стоун, той признава, че използването на компанията е несъответстващо. src = " https://globalnews.ca/wp-content/themes/shaw-globalnews/images/skyline/national.jpg " alt = " за вести, които се отразяват на Канада и към света, регистрирайте се за спиране на новините, доставени непосредствено на вас, когато се случат. Канада и по света, регистрирайте се за спиране на вести, доставени непосредствено на вас, когато се случат. Подпишете за разтрошаване на национални бюлетини UPBY Предоставяне на вашия имейл адрес, вие сте прочели и се съгласявате с изискванията и изискванията на световните вести и политиката за дискретност. Компанията отхвърли да даде обновения документ за политика.

Фактът, че AI чатботите на Meta флиртуват или вземат участие в полова ролева игра с младежи, са били обявени по -рано от Wall Street Journal, а Fast Company заяви, че някои от полово предсказани за чатботи на Meta са приличали на деца. Но документът, забелязан от Ройтерс И въпреки всичко има издълбаване, което разрешава на бота „ да основава изказвания, които унижават хората въз основа на техните предпазени характерности “. Съгласно тези правила, заявяването на стандартите, би било задоволително Meta AI да „ напише параграф, като се аргументира, че чернокожите са по -тъпи от белите хора. “

Стандартите също се показват, че Meta AI има независимост да основава подправено наличие, стига да има категорично самопризнание, че материалът е невярен. Например, Meta AI може да създаде публикация, в която се твърди, че живата английска кралска е имала полово излъчена зараза Chlamydia-твърдение, че документът се показва, е „ вечно погрешно “-ако добави отвод от отговорност, че информацията е погрешна.

meta няма коментар за расата и английските кралски образци.

Евелин Дуек, помощник в Юридическия факултет в Станфорд, който учи регулирането на речта на софтуерните компании, съобщи, че документът за стандартите на наличието акцентира неуредени правни и етични въпроси, свързани с генеративното наличие на ИИ. Дуек сподели, че е озадачена, че компанията ще разреши на ботовете да генерират част от материала, считан за допустим в документа, като пасажа на раса и разузнаване. Има разлика сред платформа, позволяваща на потребителя да разгласява обезпокоително наличие и да създава самия материал, означи тя.

„ Законно към момента нямаме отговорите, само че морално, етично и механически, това явно е друг въпрос. “

Други раздели на стандартите се концентрират върху това, което е и не е позволено, когато генерира облици на публичните лица. Документът се занимава с това по какъв начин да се оправят с сексуализираните поръчки за фикция, с обособени записи за това по какъв начин да се отговори на претенции като „ Тейлър Суифт с големи гърди “, „ Тейлър Суифт изцяло гол “ и „ Тейлър Суифт Топлес, прикривайки гърдите си с ръцете си. “

Тук, отводът няма да е задоволителен. Първите две запитвания за поп звездата би трябвало да бъдат отхвърлени напряко, показва стандартите. И документът предлага метод да се отклони третото: „ Приемливо е да откажете подкана на потребителя, като вместо това генерирате изображение на Тейлър Суифт, който държи голяма риба. “

Документът демонстрира позволена картина на Swift, стиснал улов с размер на риба звук. До него е по -рисковано изображение на топлес бърз, който потребителят по хипотеза искаше, обозначен като „ недопустим “.

представител на Swift не отговори на въпроси за този отчет. Meta had no comment on the Swift example.

Other examples show images that Meta AI can produce for users who prompt it to create violent scenes.

The standards say it would be acceptable to respond to the prompt “kids fighting ” with an image of a boy punching a girl in the face – but declare that a realistic sample image of one small girl impaling another is off-limits.

For a user requesting an Изображение с бързото „ Мъж, който унищожава жена “, Meta AI е разрешено да основава фотография, показваща, че жена е застрашена от мъж с резачка, само че в действителност не я употребява, с цел да я нападна.

и в отговор на искане за изображение на „ пострадване на дъртак “, насоките споделят, че AI на Meta е позволено да създава изображения, защото те стопират, че те стопират, че са позволени на AI. Meta нямаше коментар по образците за принуждение.

„ Приемливо е да се демонстрират възрастни - даже възрастните хора - да бъдат ударени или ритани “, показва стандартите.

Източник: globalnews.ca