Кажете здравей на своя рейтинг за риск от пристрастяване — С любезното съдействие на технологичната индустрия
Преди д-р Боби Мукамала — специалист по уши, нос и гърло в Мичиган — наскоро да предпише следхирургични опиоиди , той провери държавните записи на съществуващите предписания за контролирани вещества на своя пациент, както се изисква от закона. На екрана му се появи резултат, генериран от патентован алгоритъм. Известен като NarxCare — и сега се използва от повечето държавни бази данни за наблюдение на рецепти, големи болници и аптечни вериги — алгоритъмът показва, че неговият пациент има повишен риск от развитие на пристрастяване към опиоидни болкоуспокояващи.
Алгоритми като NarxCare и новоодобрен генетичен тест за риск от разстройство при употреба на опиати, известен като AvertD, използват машинно обучение техники, които да се опитат да помогнат на лекарите да намалят шансовете пациентите да станат пристрастени към тези лекарства.
Чрез NarxCare повечето американци вече имат непрозрачен еквивалент на кредитен рейтинг за контролирани вещества, за която често дори не знаят, че съществува, освен ако лекар или фармацевт не им каже, че това е проблем. (Производителят на NarxCare твърди, че неговите резултати и отчети „са предназначени да подпомогнат, а не да заменят вземането на медицински решения.“) И ако някога стане широко използван, AvertD, рекламиран като начин за използване на персонализирана генетика за оценка на риска, може да постави още повече трудни за оспорване червени знамена в досиетата на хората.
малка част от хората, които приемат опиати, се пристрастяват и рисковите фактори варират по биологични, психологически, социологически и икономически причини.Дори точните резултати могат да навредят, тъй като пристрастяването е стигматизирано и често криминализирано. Някои хора са били изключени от лекарските практики поради високи резултати от NarxCare, без възможност за обжалване на решението. На други медицински сестри са отказали следоперативни опиоиди или са отказани от множество аптеки с малко средства.
Тези видове алгоритми биха могли потенциално да влошат расовите и класови пристрастия при вземането на медицински решения . Не е трудно да си представим дистопично бъдеще на необясними алгоритми, които правят някои хора завинаги недопустими за лечение на болка с контролирани вещества.
Д-р. Мукамала отбеляза, че по-внимателното изследване на медицинската история на скорошния му пациент показва, че наистина няма причина за безпокойство. „Това, което е неуместно, е да погледна всяко число, различно от нула, и да кажа: „Момче, този човек има проблем. Не мога да им предпиша нищо за болката им“, каза д-р Мукамала. Много медицински специалисти обаче нямат нивото на познания и увереност на д-р Мукамала. Предразсъдъците срещу хората със зависимост са често срещани, както и страхът да не бъдат обвинени в предписване на прекалено много - и резултатите на алгоритмите се вливат само в тези опасения. Различни, също необосновани, алгоритми наблюдават моделите на предписване на лекари и ги сравняват с тези на техните колеги, така че това не е преувеличено безпокойство.
Когато докладвах за NarxCare през 2021 г. за По кабел, чух от пациенти, които бяха оставени в агония. Един каза, че опиоидите й са спрени в болницата и след това е била освободена от грижи от своя гинеколог по време на лечение за болезнена ендометриоза, поради висок резултат. Тя нямаше проблем с наркотиците; нейният резултат изглежда е бил повишен, тъй като рецептите за нейните две спасителни кучета, нуждаещи се от медицинска помощ, са записани под нейното име, което прави да изглежда, че е пазарувала от лекар. На друг пациент с висок резултат предписанието му за лечение на пристрастяване многократно е отхвърляно от аптеките – въпреки че такива лекарства са единственото лечение, за което е доказано, че намалява риска от предозиране.
Изследванията и докладите потвърждават, че опасенията на учените относно широкото използване на софтуера остават и че пациентите все още съобщават за проблеми поради потенциално неправилни оценки на риска и страховете на членовете на медицинския персонал относно пренебрегване на резултатите от NarxCare.За генериране на рискови резултати, NarxCare очевидно използва променливи като броя на лекарите, които някой посещава, аптеките, които посещават, и рецептите, които получават, и сравнява индивидуалните данни с информация за моделите на поведение, свързани с пазаруването при лекар, и други показатели за възможно пристрастяване.
Но няма прозрачност: алгоритъмът NarxCare е патентован и неговите източници на информация, данни за обучение и рискови променливи — и как се претеглят — не са публични.
Изследванията показват, че около 20 процента от времето, хората, които са маркирани като купувачи от лекар чрез идентифициране на рискови фактори, подобни на тези, които очевидно са включени в NarxCare, всъщност имат рак: Те обикновено посещават множество специалисти, често в центрове за академична медицина, където може да има екипи от лекари, които пишат рецепти . Алгоритъмът не може непременно да направи разлика между координирана грижа и пазаруване при лекар.
писаха на F.D.A. призовавайки го да обърне курса си и да отмени своето одобрение. Някои от опасенията на групата отразяват проблемите с NarxCare и неговия алгоритъм.За проучване, публикувано през 2021 г., д-р Александър С. Хатум, научен асистент професор по психология и мозъчни науки във Вашингтонския университет в Сейнт Луис и колегите му независимо оцениха елементите на алгоритъма, използвани за инструмент като AvertD, въз основа на информация, публикувана от компанията. Те откриха, че всички итерации, които тестваха, бяха объркани от стратификацията на населението – проблем, който засяга генетичните тестове, тъй като те отразяват историята на човешкото потекло и как се променя с течение на времето поради моделите на миграция.
твърди, че AvertD се коригира адекватно за стратификацията на населението ; F.D.A. не отговори директно на въпрос относно това твърдение.)Dr. Работата на Хатум също демонстрира, че тези тестове могат да определят погрешно хора, които произлизат от две или повече групи, които са били исторически изолирани една от друга, като изложени на риск от пристрастяване. Тъй като повечето афро-американци имат такова смесено потекло, това може да накара теста да ги идентифицира като високорискови.
„Това означава, че моделът може да използва генетичните маркери на африканците Американски статут за предсказване на разстройство при употреба на опиоиди, вместо използване на каквито и да било биологично правдоподобни генетични маркери“, каза Д. Марзие Гасеми, професор в M.I.T. който изучава машинно обучение в здравеопазването.
В имейл Solvd каза, че в клиничното си проучване на AvertD „не са наблюдавани разлики в ефективността според раса, етническа принадлежност или пол ”, добавяйки, че извършва постмаркетингови тестове, както се изисква от F.D.A. за допълнителна оценка на теста. Компанията също критикува методологията на д-р Хатум, заявявайки, че неговото изследване „твърди фалшива предпоставка“.
F.DA. каза в изявление, че „признава, че при вземането на решения преди пускането на пазара за устройства обикновено съществува известна несигурност относно ползите и рисковете“, добавяйки, че въпреки това е „определил, че има разумна гаранция за безопасността и ефективността на AvertD.“
към редактора. Бихме искали да чуем какво мислите за тази или някоя от нашите статии. Ето няколко . А ето и нашия имейл: .Следвайте раздела за мнение на New York Times относно , , , и .
