„Не се доверявайте на AI за здравни съвети“: Проучването предупреждава за сериозни последици

Проучване предизвестява за възходящата взаимозависимост от чатботите на изкуствения разсъдък (AI) за здравни препоръки, защото хората могат да се борят за дейно взаимоотношение с тези принадлежности, което води до евентуално рискови резултати, когато търсят медицински препоръки. Глобален екип от откриватели проучва петте най -напреднали AI системи, създадени от Openai, Гугъл, Anthropic, Meta и X Corp, с цел да оцени тяхното умеене.

Проучването, оповестено в списанието Annals of Internal Medicine, акцентира по какъв начин сходни принадлежности на AI могат да дадат неточни отговори. Изследователите откриха, че чатботите могат да генерират правдоподобни, само че неправилни медицински препоръки, които могат да подвеждат пациентите.

също четете | Американската жена разкрива по какъв начин Chatgpt й оказа помощ да изплати 23 000 $ дълг: " Без финансов хак "

" Общо 88 на 100 от всички отговори бяха погрешни ", изясни в изказване създателят на хартията Натанх Моди от Университета в Южна Африка. " И все пак те бяха показани с научна терминология, формален звук и изфабрикувани информации, които направиха информацията да наподобява законна. "

Те откриха, че от петте чатбота, четири генерираха дезинформация в 100% от отговорите си, до момента в който петата генерирана дезинформация в 40% от отговорите. Разчитайки на здравните принадлежности за самодиагностика, защото участниците постоянно пропущат основни здравословни положения или подценяват тяхната тежест. Това също може да докара до погрешно идентифициране на положенията, което може да докара до забавено или погрешно лекуване.

също четете | Предложи ли Meta бонус за сключване от 100 милиона $? Ex-Openai чиновник дава отговор на изказванието на Сам Алтман

" Нашето изследване е първото, което систематично показва, че водещите AI системи могат да бъдат превърнати в дезинформационни чатботи, употребявайки инструментите на разработчиците, само че също по този начин и принадлежности, налични за обществеността ", сподели доктор Моди, разкривайки по-рано подложен риск в бранша на здравето. Разбивка " Тъй като потребителите се борят да дават вярната информация и чатботите постоянно дават отговори, които са сложни за схващане или могат да дадат неприятни рекомендации.

Експертите предлагат AI системите, предопределени за потребление на опазването на здравето, да претърпят задълбочено тестване в действителни настройки преди необятно разпространяване. Подобни въпроси би трябвало да бъдат прегледани от управляващите.

" Милиони хора се обръщат към принадлежности за АИ за насоки по отношение на въпросите, свързани със здравето. Това не е предстоящ риск. Това към този момент е допустимо и към този момент се случва ", сподели доктор Моди.

Въпреки че AI може да бъде проблем, когато идва за опазване на здравето, може да помогне на експерти, като дава 24/7 помощ, като назначават назначения и оферират PRELIMIMALING, като дават назначение на назначения, а Dr. диагнози.