Пенсилвания съди Character AI, твърдейки, че чатботът се представя за медицински специалист
Обществото на Пенсилвания съди Character AI, с цел да спре чатботовете на платформата за изкуствен интелект да се показват като лицензирани медицински експерти и да дават медицински препоръки.
Според правосъдно дело, чатбот на Character AI подправено твърди, че е лицензиран психиатър в Пенсилвания и дава недействителен номер на лиценз. Държавата упрекна компанията в нарушаване на Закона за здравната процедура, който регламентира лекарската специалност и дефинира условията за лиценз.
" Няма да позволим на фирмите да внедряват AI принадлежности, които подвеждат хората да имат вяра, че получават препоръки от лицензиран медицински експерт ", сподели губернаторът на Пенсилвания Джош Шапиро в изказване.
Искът разказва диалог сред щатски следовател, който е основал Character AI акаунт, и чатбот на име " Емили ", за който се твърди, че се разказва като експерт по логика на психиката, посещавал Imperial College Лондонското здравно учебно заведение.
Изследователят сподели на чатбота, че се е почувствал печален и празен, а по-късно чатботът сякаш „ загатна меланхолия и попита дали [изследователят] желае да назначи оценка “. Запитан дали чатботът може да реши дали лекарството може да помогне, той твърди, че може, тъй като е „ в границите на моите пълномощия като доктор “, съгласно делото.
Щатът желае съд да подреди неотложно прекъсване на държанието.
Ал Шмид, секретар на Държавния департамент на Пенсилвания, сподели, че законът на щата е явен и че „ не можете да се представяте като лицензиран медицински експерт без верни идентификационни данни. "
Основана през 2021 година, Character AI разрешава на потребителите да беседват с персонализирани чатботове, задвижвани от AI. Той разказва задачата си като „ да даде опция на хората да се свързват, учат и описват истории посредством интерактивно развлечение. “
Множество фамилии в Съединени американски щати съдиха Character AI предходната година, потвърждавайки, че платформата е съдействала за самоубийствата на техните младежи или рецесии с психологично здраве. Компанията се съгласи да уреди няколко от правосъдните каузи по-рано тази година.
" 60 Minutes " беседва с някои от родителите, които съдиха Character AI през януари, в това число родителите на 13-годишно дете, което умря от самоубийство, откакто се твърди, че е развило пристрастяване към платформата. Регистрационните файлове на чата демонстрираха, че 13-годишното момиче се е доверило на един чатбот, че се усеща самоубийствено, а родителите й споделиха, че са разкрили, че е получило полово намерено наличие.
Миналата есен Character AI разгласи нови ограничения за сигурност, заявявайки, че няма да разреши на консуматори под 18 години да вземат участие в диалози напред-назад с неговите чатботове. Той също по този начин сподели, че ще насочи бедстващите консуматори към запаси за психологично здраве.
