Какво трябва да знаете, преди да попитате AI чатбот за здравен съвет

ВАШИНГТОН (AP) — Със стотици милиони хора, които се обръщат към чатботове за съвет, беше единствено въпрос на време софтуерните компании да стартират да оферират стратегии, особено предопределени да дават отговор на здравословни въпроси.

През януари OpenAI показа ChatGPT Health, нова версия на своя чатбот, който съгласно компанията може да проучва медицински досиета на потребителите, уелнес приложения и данни за носими устройства, с цел да отговори на здравето и медицински въпроси. В момента има лист с чакащи за програмата. Anthropic, конкурентна компания за изкуствен интелект, предлага сходни функционалности за някои консуматори на своя чатбот Claude.

И двете компании споделят, че техните стратегии, известни като огромни езикови модели, не са сурогат на професионалните грижи и не би трябвало да се употребяват за диагностициране на медицински положения. Вместо това те споделят, че чатботовете могат да обобщават и изясняват комплицирани резултати от проби, да оказват помощ при подготовката за посещаване при доктор или да проучват значими здравни трендове, заровени в медицинските досиета и индикаторите на приложенията.

Ето някои неща, които би трябвало да имате поради, преди да говорите с чатбот за вашето здраве:

Чатботовете могат да предложат по-персонализирана информация от търсенето в Гугъл

Някои лекари и откриватели, които са работили с ChatGPT Health и сходни стратегии, ги виждат като усъвършенстване по отношение на статуквото.

Платформите с изкуствен интелект не са съвършени — от време на време могат да халюцинират или да дават неприятни препоръки — само че информацията, която създават, е по-вероятно да бъде персонализирана и съответна от тази, която пациентите могат да намерят посредством търсене в Гугъл.

„ Алтернативата постоянно е нищо, или пациентът, който го крие “, сподели доктор Робърт Уочтър, специалист по медицински технологии в Калифорнийския университет в Сан Франциско. „ И по този начин мисля, че в случай че употребявате тези принадлежности отговорно, мисля, че можете да получите потребна информация. “

Едно от преимуществата на най-новите чатботове е, че дават отговор на въпроси на потребителите с подтекст от здравната им история, в това число предписания, възраст и бележки от доктор.

Дори и да не сте дали на AI достъп до вашата здравна информация, Wachter и други предлагат да дадете на чатботовете допустимо най-вече детайлности, с цел да подобрите отговорите.

Тази публикация е част от отразяването на AP на Be Well, като се концентрира върху уелнес, фитнес, диета и психологично здраве. Прочетете повече Бъдете добре.

Ако имате тревожни признаци, пропуснете AI

Wachter и други акцентират, че има обстановки, когато хората би трябвало да пропуснат чатбота и да потърсят незабавна здравна помощ. Симптоми като дефицит на въздух, болежка в гърдите или мощно главоболие може да алармират за незабавна здравна помощ.

Дори при по-малко незабавни обстановки пациентите и лекарите би трябвало да подхождат към стратегиите за изкуствен интелект с „ известна степен на здравословен песимизъм “, сподели доктор Лойд Минор от Станфордския университет.

„ Ако говорите за значимо здравно решение или даже за по-малко решение за вашето здраве, в никакъв случай не би трябвало да разчитате единствено на какво вие излизате от огромен езиков модел “, сподели Майнор, който е декан на здравното учебно заведение в Станфорд.

Помислете за поверителността си, преди да качите каквито и да е здравни данни

Много преимущества, предлагани от AI ботове, произтичат от потребителите, споделящи персонална здравна информация. Но е значимо да разберете, че всичко, споделено с компания за изкуствен интелект, не е предпазено от федералния закон за дискретност, който нормално урежда сензитивната здравна информация.

По-известен като HIPAA, законът разрешава санкции и даже затвор за лекари, лечебни заведения, застрахователи или други здравни услуги, които разкриват медицински досиета. Но законът не се ползва за компании, които проектират чатботове.

„ Когато някой качва здравната си карта в огромен езиков модел, това е доста друго от това да я съобщи на нов доктор “, сподели Майнор. „ Потребителите би трябвало да схванат, че те са изцяло разнообразни стандарти за дискретност. “

И OpenAI, и Anthropic споделят, че здравната информация на потребителите се съхранява настрана от другите видове данни и е обект на спомагателна отбрана на поверителността. Компаниите не употребяват здравни данни, с цел да образоват своите модели. Потребителите би трябвало да се включат, с цел да споделят своята информация и могат да пресечен връзката когато и да е.

Тестването демонстрира, че чатботовете могат да се спънат

Въпреки вълнението към AI, самостоятелното тестване на технологията е в начален етап. Ранните изследвания демонстрират, че стратегии като ChatGPT могат да преминат медицински прегледи на високо равнище, само че постоянно се спъват при взаимоотношение с хора.

Проучване с 1300 участници от Оксфордския университет неотдавна откри, че хората, употребяващи AI чатботове за проучване на хипотетични здравословни положения, не са взели по-добри решения от хората, употребяващи онлайн търсения или персонална преценка.

AI чатботовете показват медицински сюжети в изчерпателна, писмена форма вярно са разпознали главното заболяване в 95% от случаите.

„ Това не беше казусът “, сподели водещият създател Адам Махди от Оксфордския интернет институт. „ Мястото, където нещата се разпаднаха, беше по време на взаимоотношението с същинските участници. “

Махди и неговият екип откриха няколко информационни казуса. Хората постоянно не дават на чатботовете нужната информация, с цел да разпознават вярно здравословния проблем. Обратно, системите с изкуствен интелект постоянно реагираха с композиция от добра и неприятна информация и потребителите имаха проблеми с разграничаването сред двете.

Проучването, извършено през 2024 година, не употребява най-новите версии на chatbot, в това число нови оферти като ChatGPT Health.

Второ мнение на AI може да бъде потребно

Способността на чатботовете да задават следващи въпроси и да извличат основни детайлности от потребителите е една област, в която Уочтър вижда място за усъвършенстване.

„ Мисля, че тогава това ще стане в действителност добре, когато инструментите станат малко по-докторски в метода, по който се движат напред-назад “ с пациентите, сподели Уочтър.

Засега има един метод да се чувствате по-уверени информацията, която получавате, е да се консултирате с голям брой чатботове - сходно на приемане на второ мнение от различен доктор.

„ Понякога ще слагам информация в ChatGPT и информация в Gemini “, сподели Уочтър, споменавайки инструмента за изкуствен интелект на Гугъл. „ И когато и двамата са съгласни, се усещам малко по-сигурен, че това е верният отговор. “

___

Департаментът по опазване на здравето и просвета на Асошиейтед прес получава поддръжка от отдела за научно обучение на Медицинския институт Хауърд Хюз и фондацията Робърт Ууд Джонсън. AP е само виновен за цялото наличие.