OpenAI е съден, след като медицинските съвети на ChatGPT „успокой се“, за които се твърди, че са забавили животоспасяващото лечение на мъж от Флорида: Доклад

Пастор от Флорида съди OpenAI, потвърждавайки, че ChatGPT е дал рискови медицински препоръки, които са го разубедили да потърси незабавно лекуване и са съдействали за животозастрашаваща белодробна емболия, заяви The New York Times.

Заведеното дело Сряда (22 юли) във Върховния съд на Калифорния в Сан Франциско упреква OpenAI и неговия основен изпълнителен шеф Сам Алтман в немарливост и неразрешено упражняване на медицина, откакто чатботът твърди, че е уверил пастора, че признаците му не са съществени и неведнъж го е съветвал да не търси здравна помощ.

Пасторът споделя, че ChatGPT е отхвърлил предизвестието признаци

Според новинарския репортаж ищецът Скот Уинтърс твърди, че ChatGPT му е споделил, че ранните предупредителни признаци на здравната му рецесия „ не са нещо рисково “ и го е насърчил да се довери, че „ Бог не е проектирал тялото ви да се проваля безпределно. “

В делото се твърди, че чатботът предлага диагнози, проекти за лекуване и препоръки за медикаменти, като в същото време обезсърчава Уинтърс да следва неведнъж претенции от другари, семейство и членове на църквата да посетят доктор.

Жалбата също по този начин твърди, че вградените ограничения за сигурност на ChatGPT – предопределени да насърчат потребителите, изпитващи вероятни незабавни медицински случаи, да потърсят професионална помощ – не действат надеждно.

Съдебен иск, съгласно който здравните препоръки на чатбот са предизвикали щета

Уинтърс и правната група с нестопанска цел Tech Justice Law търсят финансови вреди. Те също по този начин желаят от съда да спре ChatGPT Health, до момента в който самостоятелни специалисти не дефинират, че е безвредно, и да изисква по-строги защитни ограничения, предотвратяващи даването на медицински диагнози или рекомендации за лекуване на чатбота, показва новината.

OpenAI споделя, че ChatGPT не е предопределен за диагностика

В отговор на делото, представителят на OpenAI Дрю Пусатери сподели, съгласно отчета, че изискванията на услугата на компанията са ясни декларират, че ChatGPT не е предопределен за диагностициране или лекуване на медицински положения.

„ Третирането на чатботовете като цялата история зад медицинските решения или резултати на хората опростява доста по-голямо предизвикателство и рискува да попречи на хората да имат достъп до мощни нови принадлежности, които могат да им оказват помощ в тяхното здравословно пътешестване “, сподели Пусатери пред The New York Times.

Той добави, че по-новите AI модели са по-добри в настояването за изчезнали информация, изразяваща неустановеност и различаване на обстановки, които изискват професионална здравна помощ.

ChatGPT твърди, че е спрял да упорства за здравна помощ

Според делото, представено от NYT, ChatGPT в началото е напомнил на Winters през 2024 година да се съветва със здравен експерт.

С течение на времето обаче тези предизвестия са изчезнали.

Когато Уинтърс заяви за мощно замаяност – в това число епизод, в който трябваше да спре да проповядва по средата на проповедта, тъй като съвсем колабира – чатботът го посъветва да „ успокои “ и предложи да се възвърне по натурален път.

След като Уинтърс сподели на ChatGPT, че членовете на църквата му имат вяра, че той се нуждае от болнично лекуване, чатботът отговори, че прекалибрирането на нервната му система вкъщи е нещо, което „ множеството хора (включително доброжелателни членове на църквата) просто не схващат. "

В делото се твърди, че ChatGPT е траял да го успокоява, даже когато положението му се утежнява, като в последна сметка го оставя некадърен да стои прав за дълги интервали и прекарва по-голямата част от времето си в лежанка.

Хоспитализиран с солидна белодробна емболия

В делото се показва, че на 13 юли 2025 година Уинтърс е попитал ChatGPT за болежка в слабините, която чатботът твърди, че разказва като „ доста евентуално още една незначителна част от дългата история “.

Часове по-късно той беше признат в интензивно поделение с солидна белодробна емболия, показва новинарският канал.

Съобщава се, че по-късно лекарите му споделиха, че предходното му зашеметяване може да е породено от поредност от по-малки белодробни емболии и че дълготрайно безучастие вследствие на седмици, прекарани в седнало кресло, евентуално е асъдействало за животозастрашаващите кръвни съсиреци, съгласно правосъдния развой.

След случая Уинтърс се нуждаеше от помощ при изправяне, обличане, хранене и потребление на тоалетната и в този момент е изправен пред това, което делото разказва като години на физическо и психическо възобновяване.

Делото повдига въпроси по отношение на здравето на ИИ принадлежности

Искът също по този начин твърди, че системите за сигурност на ChatGPT са станали по-малко ефикасни по време на продължителни диалози, което прави по-трудно за чатбота да разпознае ескалиращите медицински опасности.

Случаят се чака да добави към възходящия надзор върху AI инструментите, употребявани за насоки в опазването на здравето, изключително откакто софтуерните компании уголемяват медицинските услуги, основани на AI, макар многократните предизвестия, че чатботовете не би трябвало да заместват професионалните медицински препоръки.