Openai стартира нови родителски контроли за насочване на графично съдържание
Openai показа нов набор от наставнически контроли за Chatgpt в опит да отбрани по -добре младежите от графично и евентуално нездравословно наличие.
Съобщението идва във време на възходящ надзор върху ролята на изкуствения разсъдък в последните нещастия, в това число мощно рекламирано правосъдно дело и чуване на конгреса поради гибелта на младеж, който употребява платформата за проучване на самоубийството.
Новите принадлежности, стартирани в понеделник, разрешават на родителите да свържат своите сметки с тези на техните тийнейджърски деца - по -специално консуматори на възраст от 13 до 17 години - и да зададат строги граници на наличието.
Според Openai, платформата към този момент автоматизирано ще ограничи отговорите, свързани с графичното принуждение, половата и сантименталната ролева игра, вирусните провокации и „ рисковите идеали за хубост “.
Родителите също могат да блокират Chatgpt от генериране на изображения за техния младеж, да зададат часове за затъмнение, с цел да лимитират достъпа през съответни времена, да изберат детето си да допринесат за образование на AI модел и да получат сигнали, в случай че детето им демонстрира признаци на изострен прочувствен дистрес, в това число самоубийствена концепция.
Стартирането следва възходящ хор от угриженост по отношение на ролята на AI в сигурността на децата, провокирано частично от дело, заведено от фамилията на 16-годишния Адам Рейн, умрял от самоубийство през април.
Семейството твърди, че Chatgpt му дава подробни указания по какъв начин да приключи живота си, похвали проекта си и в последна сметка е работил като „ треньор на самоубийство “.
Изпълнителният шеф на Openai Сам Алтман призна провокациите да модерира инструмент, толкоз мощен и необятно употребен като Chatgpt. В обява в блога, оповестена на 16 септември, Алтман акцентира значимостта на построяването на версия на Chatgpt, която е подобаваща за възрастта.
„ Ние приоритизираме сигурността пред персоналния живот и свободата за тийнейджърите; това е нова и мощна технология и имаме вяра, че малолетните се нуждаят от забележителна отбрана “, написа той. „ Ще прилагаме разнообразни правила към младежите, употребявайки нашите услуги. “
Все отново доста критици споделят, че новите ограничения не стигат задоволително надалеч. Понастоящем чатботът не изисква от потребителите да ревизират своята възраст или вход, което значи, че децата под 13 години към момента могат елементарно да имат достъп до платформата, макар че са под минималната възраст на Openai.
Компанията споделя, че работи върху система за възрастово прогнозиране, която ще ограничи интензивно сензитивното наличие за малолетни потребители-но този инструмент към момента е на месеци.
Вижте също
