AI фабрикува цитати в биомедицински изследвания, откриват изследователи

Изкуственият разсъдък фабрикува препратки към медицински проучвания, които не съществуват, съгласно последните открития. 

Неотдавнашен одит откри, че измежду милиони биомедицински публикации, повече от 4000 съдържат цитати на несъществуващи проучвания, съгласно публикация в The Lancet. Подобни изфабрикувани цитати могат да подкопаят клиничните насоки, на които здравните експерти разчитат, с цел да дават грижи, сподели Максим Топаз, доцент в Колумбийското учебно заведение по медицински сестри и водещ създател на проучването.

Одит на милиони биомедицински публикации откри повече от 4000 цитата на подправени изследвания, споделиха откривателите в скорошна публикация, оповестена в The Lancet. 

Изфабрикуваните цитати са рискови, тъй като въздействат върху клиничните насоки, които се основават на обществени проучвания, които здравните експерти следват при даването на грижи, сподели Максим Топаз, доцент в Колумбийското учебно заведение за медицински сестри и водещ създател на проучването, пред CBS News.

„ Когато тези подправени препратки попаднат в литературата, те ще попаднат в тези насоки и това е методът, по който лекарите вземат решение по какъв начин да дават грижа за теб ", сподели той. „ Вашият доктор може да взема решения по отношение на лекуването въз основа на изследвания, които в никакъв случай не са съществували. “

Нарастващ проблем

Също обезпокоително е, че нито една от грешките, разпознати от Топаз и екипа му, не е поправена или оттеглена и към момента може да въздейства върху грижите за пациентите, сподели той.  

„ Процентът на подправени препратки, появяващи се в оповестената здравна литература, пораства “, добави Топаз, отбелязвайки, че броят на такива неверни цитати е повишен 12 пъти през последните три години. Изфабрикуваните препратки обгръщат съвсем 3000 университетски публикации.

Собственият опит на Топаз го подтикна да изследва въпроса. Приложение за изкуствен интелект, което той употребява, с цел да помогне за изглаждането на една от личните си научни публикации, вмъкна подправен откъс, сподели той пред CBS News. След това се промъкна през няколко пласта партньорски инспекции, преди един остроумен редактор да улови подправената отпратка. 

„ Бях ужасяващ, тъй като изучавах изкуствен интелект през последните 15 години, тъй че в случай че може да се случи на мен, може да се случи на всеки “, сподели той.

Такива злополуки пораждат, когато създател твърди изказване за обстоятелства и желае AI за откъс, изясни Топаз. „ В някои случаи изкуственият разсъдък би ги промъкнал по нехайство “, сподели той. „ Бихте се надявали обстоятелствата да са точни, само че в случай че са подкрепени от изфабрикувани цитати, не знаете дали „ обстоятелствата “ са точни. “

В някои случаи AI инструмент също ще цитира същински създател, до момента в който измисля проучване и го приписва на този човек. Друг път цитатите бяха изцяло измислени, сподели Топаз. 

„ Това е единствено върхът на айсберга “, сподели той, отбелязвайки, че проучванията в други области също могат да бъдат обект на същите проблеми.

Междувременно генерираните от подправен изкуствен интелект научни цитати могат „ да наподобяват изцяло действителни “, добави Топаз, който акцентира значимостта на това откривателите да ревизират прецизно обстоятелствата в своята работа. 

Редактирано от Ален Шертър

© 2026 CBS Interactive Inc. Всички права непокътнати.

Как изкуственият разсъдък може да бъде потребен и да взема решение проблеми

(05:16)

Авторско право ©2026 CBS Interactive Inc. Всички права непокътнати.