Character.AI забранява на непълнолетни да взаимодействат с неговите чатботове
Character.AI не разрешава на малолетни да употребяват своите чатботове на фона на възходящите опасения по отношение на резултатите от диалозите с изкуствен интелект върху децата. Компанията е изправена пред няколко правосъдни каузи за сигурността на децата, в това число от майка на младеж, която споделя, че чатботовете на компанията са тласнали нейния наследник младеж да се самоубие.
Character Technologies, основаната в Менло Парк, Калифорния компания, която стои зад Character.AI, сподели в сряда, че ще отстрани способността на консуматори под 18 години да вземат участие в отворени чатове с герои с изкуствен интелект. Промените ще влязат в действие до 25 ноември и двучасовият дневен предел ще стартира незабавно. Character.AI добави, че работи върху нови функционалности за деца - като опцията за основаване на видеоклипове, истории и потоци с AI герои. Компанията също по този начин основава лаборатория за сигурност на AI.
Character.AI сподели, че ще пусне функционалности за инспекция на възрастта, с цел да помогне да се дефинира кои консуматори са под 18 години. Все по-голям брой софтуерни платформи се обръщат към инспекции на възрастта, с цел да предпазят децата от достъп до принадлежности, които не са безвредни за тях. Но те са несъвършени и доста деца намират способи да ги заобиколят. Сканирането на лица, да вземем за пример, не постоянно може да разбере дали някой е на 17 или 18 години. И има опасения за поверителността към настояването на хората да качват публични документи за идентичност.
Character.AI, приложение, което разрешава на потребителите да основават персонажи, които могат да се персонализират, или да взаимодействат с тези, генерирани от други, обгръща преживявания от мислена игра до подигравателни изявленията за работа. Компанията споделя, че изкуствените персони са проектирани да се „ усещат живи “ и „ човешки “.
„ Представете си, че говорите със супер интелигентни и реалистични персонажи на чат бот, които ви чуват, схващат и ви запомнят “, гласи изложение на приложението в Гугъл Play. „ Насърчаваме ви да преминете границата на вероятното с тази новаторска технология. “
Критиците приветстваха хода, само че споделиха, че не е задоволителен — и трябваше да бъде изработен по-рано. Meetali Jain, изпълнителен шеф на Tech Justice Law Project, сподели: „ Все още има доста детайлности, останали отворени. “
„ Те не са разгледали по какъв начин ще приведат в деяние инспекцията на възрастта, по какъв начин ще подсигуряват, че методите им резервират поверителността, нито са обърнали внимание на вероятното психическо влияние от неочакваното дезактивиране на достъпа на млади консуматори, като се имат поради прочувствените зависимости, които са били основани “, сподели Джейн. „ Освен това, тези промени не се отнасят до главните характерности на дизайна, които улесняват тези прочувствени зависимости – освен за деца, само че и за хора на възраст над 18 години. “
Повече от 70% от младежите са употребявали AI компаньони и половината ги употребяват постоянно, съгласно скорошно изследване на Common Sense Media, група, която учи и се застъпва за рационално потребление на екрани и цифрови медии.
