Един технологичен съвет: Openai добавя родителски контрол към Chatgpt за безопасност на тийнейджърите

Лондон (AP)-Openai сподели в понеделник, че прибавя наставнически надзор към Chatgpt, които са предопределени да дават на тийнейджърските консуматори на известната платформа с по-безопасно и по-голямо „ уместно за възрастта “ преживяване.

Компанията подхваща дейности, откакто AI Chatbot Safety за млади консуматори удари заглавията. Опасностите на технологията бяха подчертани неотдавна от редица случаи, в които младежите лишиха живота си, откакто взаимодействаха с Chatgpt.

В Съединените щати Федералната комисия за търговия даже откри следствие на няколко софтуерни компании за евентуалните вреди на децата и младежите, които употребяват своите AI чатботи като спътници.

В обява в блога, оповестена в понеделник, Openai очерта новите контроли за родителите. Ето разбивка:

Първи стъпки

Родителският надзор ще бъде наличен за всички консуматори, само че и родителите, и младежите ще се нуждаят от лични сметки, с цел да се възползват от тях.

За да започнете, родител или аставник би трябвало да изпраща имейл или текстово известие, с цел да предложения младеж да свърже техните сметки. Или младеж може да изпрати покана на родител. Потребителите могат да изпращат поръчка, като влязат в менюто Настройки и по-късно в раздела „ Родителски надзор “.

Тийнейджърите могат да обвържат сметките си когато и да е, само че родителите ще бъдат известени, в случай че го създадат.

Автоматични защитни ограничения

След като сметките са свързани, акаунтът на младежите ще получи някои вградени отбрани, сподели Openai.

тийнейджърските сметки „ автоматизирано ще получат спомагателни отбрани на наличието, в това число понижено графично наличие, вирусни провокации, полови, сантиментални или насилствени ролеви игри и рискови идеали за хубост, с цел да оказват помощ да запазят опита си за възрастта “, обявиха от компанията.

Родителите могат да изберат да изключат тези филтри, само че потребителите на младежи нямат опция.

Openai предизвестява, че такива парапети са „ не са безупречни и могат да бъдат заобиколени, в случай че някой съзнателно се пробва да ги заобиколи “. Той посъветва родителите да приказват с децата си за „ Здравословна приложимост на ИИ “.

Настройка на настройките

Родителите получават надзорен панел, където могат да контролират набор от настройки, както и да изключат рестриктивните мерки на сензитивното наличие, упоменато по -горе.

Например, вашият младеж остава подминато през лягане, с цел да употребява чатгпт? Родителите могат да зададат умерено време, когато чатботът не може да се употребява.

Други настройки включват изключване на паметта на AI, тъй че диалозите не могат да бъдат непокътнати и няма да бъдат употребявани в бъдещи отговори; Изключване на способността за генериране или редактиране на изображения; Изключване на гласовия режим; и да се откажете от диалозите, употребявани за образование на модели на AI на Chatgpt.

Получете известени

Openai също е по -активен, когато става въпрос за известяван на родителите, че детето им може да е в неволя. ;

Малък екип от експерти ще прегледа обстановката и в редкия случай, че има „ признаци на изострен дистрес “, те ще уведомят родителите по имейл, текстово известие и ще натиснат сигнал на телефона си - в случай че родителят не се е отказал.

Openai съобщи, че ще отбрани поверителността на младежа, като споделя единствено информацията, нужна на родителите или незабавните реагиращи, да дават помощ.

„ Никоя система не е съвършена и знаем, че от време на време може да повдигнем тревога, когато няма действителна заплаха, само че считаме, че е по -добре да действаме и да предупредим родител, с цел да могат да се намесят, в сравнение с да мълчат “, споделиха от компанията.

____

Има ли софтуерна тематика, която смятате, че се нуждае от пояснение? Пишете ни на [имейл защитен] с вашите оферти за бъдещи издания на един софтуерен съвет.