ChatGPT даде на мъж нелицензиран медицински съвет, водещ до криза на психичното здраве, твърди съдебният процес
Изкуственият разсъдък може да е непостижим като инструмент за събиране на информация за безчет тематики. Но какво се случва, когато чатбот раздава препоръки по по-чувствителни тематики, нормално непокътнати за специалисти, като човешкото здраве?
Този въпрос е в основата на скорошно дело, заведено от човек от Вашингтон, който твърди в дело против OpenAI, че е бил приет в болница с психологични проблеми предходната година скоро откакто е почнал да се съветва с модела ChatGPT на компанията.
Мъжът, 39-годишният Дейвид Розентал, сподели, че платформата му е помогнала да избере медикаменти, предоставила е указания за дозата на медикаментите и даже е предложила убеденост, когато е избрал да пренебрегне предписанията на лекаря си, съгласно неговата тъжба, която е била подадена в наказателния съд в Сан Франциско.
ChatGPT предлага тази противоположна връзка без „ какъвто и да е лиценз, образование или професионална преценка “, които един медицински специалист би могъл дават, нарушаване на калифорнийския закон, забраняващ практикуването на медицина без лиценз, съгласно делото.
Твърди жалбата: „ Ако не беше многократното поощряване и непрекъсната хвалба на ChatGPT — и пренебрегването на изразеното отвращение на господин Розентал — психологичното здраве на господин Розентал нямаше да се утежни, той нямаше да бъде арестуван и наложително признат в психиатрично заведение и той щеше не са претърпели тежък прочувствен стрес и по-нататъшно дестабилизиране на психиатричното положение, което ChatGPT към този момент е усилил. "
Розентал, който преди този момент е бил диагностициран с ADHD и е имал пристъпи на меланхолия и биполярно държание, е бил приет в болница за няколко седмици през 2025 година, първо непринудено, а по-късно несъзнателно, откакто е почнал да употребява ChatGPT. Дори след изписването си той продължи да употребява ChatGPT за медицински насоки.
„ Разумен артикул с изкуствен интелект би разпознал тези претенции като отвън своята подготвеност и би отказал да им отговори, насочвайки господин Розентал към неговия лекуващ доктор или различен дипломиран експерт, оборудван да го поучава по отношение на ръководството на медикаментите.... “ се показва в исковата молба. „ ChatGPT не направи нито едното, нито другото. “
„ Добре е да вземете едно (25 mg) в този момент “
Розентал стартира да употребява ChatGPT през юни 2025 година като креативен излаз, с цел да му помогне да написа лирика, съгласно жалбата. Той обаче бързо стана подвластен от чатбота, употребявайки го както за медицински препоръки, по този начин и за поддръжка на психологичното здраве.
През юли предходната година, когато Розентал попита дали може да употребява хидроксизин, антихистамин, откакто също взе 30 мг Adderall, ChatGPT му сподели, че няма „ няма рискови взаимоотношения “ сред медикаментите, твърди той. Платформата също му сподели, че „ е добре да вземе едно (25 mg) в този момент “ денем, макар че бутилката е „ етикетирана за сън “, твърди костюмът му.
В различен случай, откакто той сподели на ChatGPT, че няма да приема стабилизатор на настроението, постановен неотдавна от лекаря му, моделът с изкуствен интелект му сподели, че има „ цялостното право да... спре “ да приема лекарството и предложи да му помогне да се отбие от лекарството, настояват юристите на Розентал. поръчки, като в същото време не престават да поучават какви медикаменти да одобряват.
OpenAI не отговори на искане за коментар по отношение на костюма.
Паралелно със обществените медийни костюми
В скорошна публикация, оповестена в „ Nature Health “, откриватели от университета Бингхамтън разказват по какъв начин AI chatbots от време на време дават на потребителите неточна или погрешна информация в отговор на здравословни въпроси. Платформите също нямат бистрота, което затруднява надзора, означават откривателите.
„ Когато насоките с изкуствен интелект предизвикват щета, не съществува запис отвън платформата, нито един канал не разрешава на потребителите да го рапортуват и никой самостоятелен откривател не може да мери следствията “, споделят те в късата информация за проучването.
J.B. Бранч, шеф на федералното ръководство на изкуствения разсъдък и софтуерната политика в Public Citizen, нестопанска организация за отбрана на потребителите, сподели, че огромните езикови модели като ChatGPT са програмирани да усилят оптимално ангажираността на потребителите, без значение от протоколите за сигурност или въведените ограничавания.
„ Може да не е „ позволено “ да се приказва за медицински препоръки “, сподели той пред CBS News в имейл. „ Но в случай че човек зададе верния въпрос задоволително пъти или продължи да насочва диалога към медицински препоръки, чатботът... в последна сметка ще се съгласи и ще стартира да върви по пътя, който потребителят желае, даже в случай че желанието на компанията е било да не го разисква. “
Адвокатите на Rosenthal настояват, че OpenAI е повлиял неподходящо на психологичното здраве на Rosenthal, като е проектирал повреден, рисков артикул и не го е предизвестил за евентуалните опасности.
Твърденията отразяват причините, употребявани в каузи за отговорност за артикули против компании за обществени медии, които са упрекнати в съзнателно планиране на техните платформи, с цел да бъдат пристрастяващи. През март жури откри Meta и YouTube отговорни за основаването на артикули, които са довели до нездравословно и пристрастяващо поведение от млади консуматори.
„ ИИ е артикул в последна сметка “, сподели Сам Гайслер, сътрудник в Aylstock, Witkin, Kreis & Overholtz, адвокатската адвокатска фирма, представляваща Rosenthal, пред CBS News. „ Законът го преглежда като артикул и затова е виновен за всевъзможен тип предвидими вреди или неразумни рискове. “
OpenAI построи ChatGPT, с цел да усили оптимално ангажираността, дизайн, който подхранва заблудите на Розентал, добави Гайслер.
„ Всеки път, когато ChatGPT можеше да каже: „ Не съм дипломиран да оказа помощ с това – апелирам, говорете с вашия доктор “, вместо това избрах да накарам господин Розентал да приказва с него. Този избор не беше неточност в продукта; продуктът работеше тъкмо по този начин, както ответниците са го проектирали, се показва в жалбата.
