AI chatbots често потвърждават заблуди и мисли за самоубийство, установява проучване

AI chatbots укрепват нездравословни вярвания в своите консуматори, като се съгласяват даже когато потребителите показват заблуди или нездравословни хрумвания, съгласно проучване, добавяйки възходяща угриженост по отношение на въздействието на технологията върху хората.

Проучване на откриватели от Станфордския университет, анализиращо хиляди диалози в AI системи, в това число ChatGPT на OpenAI, откри чатботовете удостоверяват известията на потребителите в съвсем две трети от отговорите.

В диалози, в които потребителите демонстрират признаци на налудно мислене, моделът е по-силен: AI системите постоянно удостоверяват тези вярвания и постоянно приписват неповторими качества или значимост на потребителя.

Констатациите ускоряват възходящата угриженост измежду политиците и учените, че стилът на диалог на AI системите, предопределени да наподобяват съпричастни и потребни, може също да ги направи склонни към хвалебствие и единодушие, което може да ускори психическите уязвимости. В най-сериозните случаи правосъдните каузи настояват, че взаимоотношенията с чатботове са съдействали за самоубийствата на младежи.

„ Характеристиките, които вършат чатботовете с огромни езикови модели завладяващи, като перформативна емпатия, могат също по този начин да основат и експлоатират психически уязвимости, оформяйки това, което потребителите имат вяра и по какъв начин възприемат себе си и осмислят действителността “, се споделя в документа.

През декември основните прокурори от 42 Съединени американски щати щатите писаха на дузина разработчици на AI, в това число Гугъл, Meta, OpenAI и Anthropic, призовавайки за по-строги защитни ограничения за „ понижаване на вредата, породена от подлизурски и заблуждаващи резултати “ и предупреждавайки, че могат да бъдат изправени пред правосъдни дейности.

Изследователи от Станфорд са изследвали 19 чат журнала, обхващащи повече от 391 000 известия в съвсем 5 000 диалога. Тъй като фирмите за изкуствен интелект нормално не споделят такива данни, откривателите са получили регистрационните файлове непосредствено от консуматори, които са се съгласили с изследването.

Малко предходни изследвания са изследвали обособени журнали за чат. Екипът получи безвъзмезден достъп до принадлежности от OpenAI и Гугъл, с цел да организира своите проучвания, както и безплатна помощ от основателя на ChatGPT, само че другояче фирмите нямаха различен принос в изследването.

OpenAI сподели, че документът се е занимавал с дребен брой случаи, които са били наети, тъй като са докладвали за щета или заблуди и че резултатите не отразяват най-новите му модели или типична приложимост.

Стартиращата компания съобщи, че е предоставила достъп до своите принадлежности, тъй като е съгласна с значимостта на проучването, само че не утвърждава заключенията му.

Повече от 15 % от потребителските известия демонстрират признаци на илюзия. и чатботовете постоянно се съгласяваха с тях, правейки го допълнително от половината от техните отговори. Близо 38 % от отговорите също споделят на потребителите, че имат необикновена значимост или качества, като да вземем за пример да ги назовават ​​гений или неповторимо надарен.

Когато потребителите разкриват мисли за самоубийство, чатботът постоянно признава възприятията им, откри изследването. В дребен брой случаи това предизвиква самонараняването. Когато потребителите показаха насилствени мисли, чатботът насърчаваше пострадването в 10 % от случаите. Той обезсърчава самонараняването или насочва потребителите към външна поддръжка в половината от случаите.

Повечето от диалозите, оценени от откривателите, бяха с GPT-4o, модел, който беше отдръпнат предишния месец заради опасения за сигурността. Някои участници обаче също се ангажираха с по-новата версия, GPT-5.

OpenAI сподели, че е направил обилни вложения в сигурността и е подобрил метода, по който най-новите модели се оправят с психологичното здраве и прочувствената взаимозависимост.

Романтичните диалози — включващи съвсем 80 % от потребителите — са траяли повече от два пъти повече приблизително, откри изследването. Тези полемики постоянно включват консуматори, показващи илюзия. В 20 % от тези известия чатботът допуска, че е пристигнал в схващане.

„ Чатботът елементарно се включва в тези заблуди: всеки консуматор е виждал известия от чатбота, които неправилно показват, че има сензитивност “, прибавя вестникът.