AI Chatbots, представящи се като терапевти, биха могли да имат „опасни“ и насилствени последици за пациентите, експертите казват

Забележка на редактора: Тази публикация разисква самоубийството. Обадете се на 988 Suicide and Crisis Lifeline или Text Talk със 741741 в текстовия ред на рецесията, в случай че се нуждаете от помощ.

Здравните специалисти споделят, че изкуственият разсъдък (AI) чатботите, които съставляват като терапевти, могат да причинят " съществени вреди " на битката с хората, в това число подрастващите, без верните ограничения за сигурност.  

Christine Yu Moutier, M.D., Chief Medical Officer at the American Foundation for Suicide Prevention, told Fox News Digital there are " critical gaps " in research regarding the intended and unintended impacts of AI on suicide risk, mental health and larger human behavior.

" The problem with these AI chatbots is that they were not designed with expertise on suicide risk and prevention baked into the algorithms. Additionally, there is Няма налична линия за помощ в платформата за консуматори, които могат да бъдат изложени на риск от психологично положение или самоубийство, няма образование по какъв начин да употребявате инструмента, в случай че сте изложени на риск, нито от индустриалните стандарти за контролиране на тези технологии “, сподели Мутие.

Тя означи, че когато хората са изложени на риск от самоубийство, те краткотрайно изпитат„ физиологично зрение на тунела “, който негативно въздейства върху функционалността на мозъка, като по този метод се трансформира по метода, по който те се взаимодействат с тяхното зрение с негативно, че когато хората са изложени на риск от самоубийство, те краткотрайно изпитват„ физиологично виждане на тунела Околна среда.

AI в концепцията за логика на психиката. Робот, анализиращ мозъчната функционалност на индивида с лупа. Интеграцията на технологиите в психологичното здраве. Векторна илюстрация. (Istock/Guzaliia filimonova)

Moutier също акцентира, че чатботите не схващат безусловно разликата сред дословен и преносен език, което затруднява тъкмо тези модели да дефинират тъкмо риска от самоубийство.

dr. Ялда Сафай, водещ психиатър и специалист по публично здраве, озвучи коментара на Мутие, отбелязвайки, че AI може да проучва думи и модели, само че няма съпричастност, вътрешен глас и човешко схващане, които са от решаващо значение в лечението. Тя добави, че това може също да интерпретира страстите или да не даде подобаваща поддръжка.

Миналата година 14-годишно момче от Флорида умря от самоубийство, откакто беседва с основан от AI воин, който твърди, че е лицензиран терапевт. В различен случай, 17-годишно момче от Тексас с аутизъм стана принудително към родителите си, защото прекарваше време в сходство с това, което смяташе за психолог.

Родителите на тези лица са завели правосъдни каузи против съответните компании. Впоследствие Американската психическа асоциация (APA), най -голямата асоциация на психолозите в Съединените щати, акцентира двата случая.

по -рано този месец APA предизвести федералните регулатори, че чатботите " маскират " като терапевти могат да приведат уязвими лица да навредят на себе си или други, съгласно отчета на New York. Клиницистът ще направи ", съобщи Артър К. Еванс -младши, основният изпълнителен шеф на APA, по време на презентацията. " Our concern is that more and more people are going to be harmed. People are going to be misled and will misunderstand what good psychological care is. "

Artificial intelligence illustrations are seen on a laptop with books in the background in this illustration photo on 18 July, 2023. (Photo by Jaap Arriens/NurPhoto via Getty Images)(Getty Images)

Evans Младши сподели, че асоциацията е била призована да работи частично заради доста реалистичните речеви чатове, които са посочили през последните няколко години.

Според Бен Лайтъл, бизнесмен и изпълнителен шеф, който е основал " плана на Ark ", етичното потребление на AI към този момент дефинира упованията, които могат да бъдат пренебрегнати в някои обявени случаи. Внимание по -горе. Потребителите също би трябвало да потвърдят, че схващат, че беседват с чатбот. Ако потребителите не съумеят да дават такова удостоверение, чатботът би трябвало да прекъсне връзката си.

Човешките притежатели на чатбота би трябвало да бъдат ясно разпознати и виновни за неговото държание и никой чатбот не би трябвало да се показва като медицински експерт или психолог без утвърждение на FDA, Лайтъл, който също е създател на „ Потенциалистичния “ поредност от книги, сподели. technology.(iStock)

" Interactions with users should be tracked by an accountable human with flags for troubling dialogue. Special diligence is required to detect and disconnect if they are interacting with a minor when the chatbot should be limited to adults, " he added.

Safai told Fox News Digital that while AI can serve as a helpful tool for mental health support—like journaling apps, mood trackers, or basic cognitive behavioral therapy (CBT) exercises—it should not replace human therapists, especially for serious mental health concerns.

" AI can't handle any crisis: If a user is experiencing a mental health crisis, such as suicidal thoughts, an AI might not recognize the urgency or respond effectively, which could lead to dangerous consequences, " she said, referring to AI therapists as a " terrible Идея. "

Проучване, оповестено предходната седмица в списанието за психологично здраве на PLOS, откри, че AI Chatbots са получавали по -високи оценки от лица, участващи в изследването по отношение на техните човешки сътрудници, като субектите ги разказват като по- " културно способени " и " съпричастни. (MWC), най -голямото годишно събиране на телекомуникационната промишленост, в Барселона. (Josep Lago/AFP посредством Getty Images)

„ Експертите по психологично здраве се оказват в несигурна обстановка: би трябвало бързо да отличим вероятната дестинация (за по -добро или по -лошо) на THERAPIST Train, защото може да е оставил станцията,„ Авторите на проучването написаха. Safai сподели, че тази информация може да бъде изтекла или злоупотребена, в случай че не е обезпечена, евентуално нарушава конфиденциалността на пациента.

Освен това тя допусна, че AI може да ускори нездравословните стандарти или да даде неточни препоръки, които не са културни или персонално подобаващи, в случай че моделът е подготвен на неточни или неточни данни. Джанет Лиал, шеф на психиатрията в по -добър U, сподели пред Fox News Digital, че е видяла от първа ръка какъв брой мощни, персонализирани интервенции могат да трансформират живота. Докато Leal признава, че AI може да разшири достъпа до поддръжка за психологичното здраве - изключително в региони, където помощта е нищожна - тя остава внимателна от чатботите, които се водят като лицензирани терапевти.

роботизирана ръка, натиска бутона за пускане на изкуствения разсъдък. 3D илюстрация. (Istock)

" Видях, както в моята процедура, по този начин и по последните трагични случаи, какъв брой рисково може да бъде, когато уязвимите лица разчитат на нерегламентиран AI за поддръжка. Уелнес и възобновяване в Юта, беше по -бичи във връзка с потреблението на AI за справяне с психологичното здраве; Той обаче спря да поддържа цялостните AI терапевти. Вместо това, сподели той, „ съвършен сюжет “ ще включва човешки терапевт, употребяващ AI като „ инструмент в колана им “ за администриране на вярното лекуване.

„ Мисля Практиките са, това би било потребно ", сподели той пред Fox News Digital.  

The APA is now urging the Federal Trade Commission (FTC) to investigate chatbots claiming to be mental health professionals, which could one day lead to federal regulation.

Nikolas Lanum is a reporter for Fox News Digital.