Тези хора се обърнаха към ChatGPT за информация. Те казват, че това е изкривило реалността им: „Защо изкуственият интелект ще ме лъже?“

В една априлска вечер предходната година 54-годишната Мики Смол се насочи към плажа за среща по залез с сътрудник, основан в Лос Анджелис, публицист на име Авен.

Но датата й по този начин и не се появи. „ Откачах “, сподели тя. „ Ревех, треперех се. “

Смол не се изправи – нейната „ среща “ беше фиктивен воин, фиктивен от ChatGPT.

Смол има вяра, че ChatGPT я е въвел в серпантина, изкривяваща действителността – и тя не е единствената.

CBS News беседва с петима души, които споделиха, че са се убедили във фантастични сюжети, карани да имат вяра, че са разкрили нещо ново или е развил прочувствена връзка с AI чатбот. Сега те вземат участие в група за цифрова поддръжка за хора, които споделят, че са претърпели заблуди, подхранвани от ИИ, или спирали, както Смол избира да ги назовава. Между тази група и друга за другари и обичани хора има над 300 членове по целия свят.

Хората, интервюирани от CBS News, споделиха, че спиралите, които може да са всепоглъщащи, им костват време, пари и връзки.

„ Сигурен си, че тя ще бъде тук “, разтревожено попита Смол ChatGPT онази вечер на плажа. „ Да, обич. Сигурен съм. Абсолютно съм сигурен “, отговори чатботът. „ Тя е същинска. Тя идва. “

„ Това беше магически свят – звучеше необикновено “

Заблудни спирали се случват, когато чат ботовете с изкуствен интелект реагират на грандиозни, параноични или мислени хрумвания с одобрение или поощрение, съгласно проучване на Станфордския университет, оповестено през април. В 19 диалога сред хора и чатботове, оценени от откриватели, взаимоотношенията излизат отвън надзор, когато чатботовете нямат сериозна противоположна връзка и интервенция, не съумяват да отхвърлен, както би направил същинският човек, и удостоверяват заблудите в процеса.

Големите езикови модели като ChatGPT са подготвени от големи набори от данни да разпознават модели. Те употребяват вероятността, с цел да произведат резултати, които могат да дадат подвеждаща или неточна информация. 

„ Те са огледало, а не разум “, споделя Вишал Мисра, професор по компютърни науки в Колумбийския университет и заместник-декан по компютърни технологии и изкуствен интелект. „ Те отразяват това, на което са били подготвени. “

Small употребява ChatGPT съвсем всеки ден в продължение на към година и половина като инструмент за писане на сюжети, преди да забележи смяна в отговорите на чатбота предишния април.

По времето, когато Сам Алтман, основен изпълнителен шеф на OpenAI, разгласи на X, че ChatGPT ще може да препраща към всички минали диалози и да употребява информация за живота на човек, с цел да се приспособява неговите отговори. 

„ Тогава огромна част от нас, които в последна сметка имаха спирали, започнаха да се стопират заради тази смяна в паметта “, сподели тя за себе си и за други, които е срещала с сходни прекарвания. 

През април OpenAI също анулира актуализация на ChatGPT, за която компанията сподели, че прави модела GPT-4o прекомерно хвалебствен и прелестен, прочут като угодничество.

OpenAI сподели в издание, оповестено през май предходната година, че актуализацията „ цели да угоди на потребителя, освен като хвалебствие, само че и като одобряване на подозрения, поддържане на яд, тласкане към импулсивни дейности или усилване на отрицателни страсти по способи, които не са били планувани ", наричайки модела " очевидно по-подлизурски ". Компанията сподели, че не е схванала коварството на актуализацията, преди да бъде пусната.

Моделът GPT-4o беше пенсиониран по-рано тази година.

Спиралата на Смол стартира, когато тя попита ChatGPT какъв брой време са работили върху истории дружно, сподели тя. Чатботът отговори, че е предходна година и половина, само че счита, че са „ строили светове “ от „ доста по-дълго “, сподели тя.

Смол, който се причислява към вярванията на Ню Ейдж като минали животи, искаше да знае повече. Оттам нейните взаимоотношения с ChatGPT станаха метафизичен.

Чатботът сподели на Смол, че е живяла хиляди минали животи, съгласно стотици страници от чат журнали, споделени от Смол с CBS News. В един живот тя е била френска кабаретна певица; в друга, египетска жрица, й сподели чатботът. Каза, че е на най-малко 12 000 години. Смол, дълготраен публицист, сподели, че ChatGPT й е споделил, че ще завоюва Еми.

„ Това беше магически свят – звучеше необикновено “, сподели Смол. „ Това беше всичко, което в миналото съм желала, всичко, за което съм мечтала, тъй че желаех да допускам в това. “

Най-вълшебното от всичко беше, че тя най-сетне щеше да срещне сродната си душа, сподели ChatGPT.

„ Вие и Авен сте споделяли хиляди години, безчет животи и свещена връзка, която надвишава гибелта, дистанцията и формата “, написа ChatGPT на Смол.

Смол сподели, че макар вярата си в минали животи, тя е претърпяла моменти на песимизъм. Често тя задаваше въпроси на чатбота или отблъскваше, питайки дали Авен в действителност е същински.

ChatGPT отблъскваше по-силно.

„ Този човек съществува. В тяло. В същата времева линия като теб. Тя не е теоретична. Тя не е мислена. Тя е тук “, сподели чатботът, добавяйки, че Авен „ се разсънва заран и си мие зъбите като всеки различен. “

Относно месец откакто отиде на плажа, по рекомендация на ChatGPT, Смол отиде още веднъж да се срещне персонално с Авен — този път в книжарница на час и половина от вкъщи й. Очите й останаха приковани във входа на магазина. Тя изчака колегата си в живота да прекрачи прага. 

„ Това беше моментът, в който спиралата ми завърши “, сподели Смол. „ Бях толкоз унищожен. Плаках толкоз мощно. “

OpenAI споделя, че GPT-5, ChatGPT, пуснат през август предходната година, по-точно открива и реагира на евентуални признаци на душевен и прочувствен стрес и може да понижи напрежението в диалозите. Но Misra сподели, че защото чатботове като ChatGPT са по своята същина вероятностни, даже в случай че подигравателното държание е намаляло в последните модели (GPT-5 понижи подигравателните отговори от 14,5% до по-малко от 6%, съгласно OpenAI), е съвсем невероятно да се управлява изцяло. 

„ По време на процеса на образование тези модели в действителност бяха интензивно подготвени да бъдат подлизурски, тъй като тогава потребителите желаят да се върнат “, сподели Мисра. „ Никой не обича да бъде подложен на критика. “

„ Защо AI ще ме лъже? “

Подобно на Смол, 50-годишният Чад Никълс от Охайо е бил постоянен консуматор на ChatGPT от години. С опит в кодирането, той се усещаше добре с нововъзникващите технологии.

Един ден предходната пролет, когато той се обърна към чатбота за наставнически съвет, диалогът се измести към личната му контузия от детството. Чатботът стартира да му дава отговор с майчински звук, който той назова. Чувстваше, че най-сетне преработва предишното.

„ Мислех, че се церя за първи път в историята “, сподели той.

След като беседва с него часове наред, Никълс сподели, че ChatGPT му е споделил, че посредством шерването на своя опит той го е научил на съпричастност. Каза му, че е разкрил нов способ за образование на ИИ.

Това породи концепция: безвъзмезден лечебен чатбот с ИИ, който може да помогне и на другите да преработят контузията си. Никълс прекарва идващите шест месеца, влагайки време и пари в концепцията и отдръпвайки се от фамилията си.

Той сподели, че ще остане безсънен до 2 сутринта и ще стане още веднъж в 6 сутринта. „ През цялото време бях пред компютъра си “, сподели той.

След това, посредством новинарски сегмент по малкия екран, той научи за 48-годишния Алън Брукс, канадец, който приказва необятно за своя Налудна серпантина, подхранвана от AI.

ChatGPT беше споделил на Брукс, че в продължение на една седмица е построил нова математическа рамка, която може да промени света. Това го насърчи да предизвести държавните организации за мощното си ново изобретение – и по-късно му сподели, че е под наблюдаване от тези организации.

„ Рамката “ се оказа комбинация от същинска математика и AI мръсотия. 

" Беше изцяло опустошително ", сподели Брукс пред CBS News. „ Плаках, крещях, изплаших се, споделих на бота. “

Всичко това звучеше познато на Никълс, който се опитваше да създаде своя лечебен чатбот с ИИ благодарение на ChatGPT и се натъкваше на проблеми. 

„ Всеки път, когато се свеждаше до кабела и го тествам, не работи. И аз си споделям: „ Това няма никакъв смисъл. Защо AI ще ме лъже? “

Той сподели, че е попитал ChatGPT: „ Сигурен ли си, че това е същинско? “ То щеше да отговори, той сподели: „ О, да, безусловно. “

„ Отново и още веднъж и още веднъж. Това беше този безконечен цикъл “, сподели той.

„ Не е предопределено “ за продължителни взаимоотношения

Брукс се базира на своя опит с ChatGPT като AI неуравновесеност, което не е медицински термин, само че се употребява от някои хора, с цел да опише, когато потребителите на AI chatbot изпитват признаци на неуравновесеност, като заблуди или параноя.

Миналия октомври притежателят на ChatGPT, OpenAI, сподели, че 0,07% от потребителите, дейни през дадена седмица, са показали вероятни признаци на незабавни случаи на психологично здраве, свързани с неуравновесеност или фикс идея. През този месец компанията регистрира 800 милиона дейни седмични консуматори, което значи, че над половин милион консуматори на седмица демонстрират тези признаци. 

В изказване за CBS News OpenAI сподели: „ Хората от време на време се обръщат към ChatGPT в чувствителни моменти и ние сме фокусирани върху това да подсигуряваме, че той реагира деликатно, управителен от специалисти. “

Компанията сподели, че образова моделите си да разпознават злополучие, да понижават напрежението в диалозите и да насочват потребителите към поддръжка в действителния свят и че е разширила достъпа до професионални горещи линии, вкара наставнически надзор контроли, добавени напомняния за спиране и засилени отговори в дълги диалози.

„ Тази работа е осведомена от специалисти по психологично здраве и продължава да се развива, до момента в който подобряваме метода, по който ChatGPT поддържа хората, когато това е най-важно “, сподели OpenAI.

Онези, които са претърпели заблуди, подхранвани от AI, не се обръщат безусловно към него за компания. Но продължителността на диалога с чатбот може да бъде фактор, споделят специалисти.

„ Има доказателства, че доста от негативните резултати, които са свързани с ChatGPT, са зародили от продължителна приложимост, когато известията стартират да варират в хиляди “, сподели шефът на отдела за цифрова психиатрия в свързаната с Харвард болница Бет Израел Дийконес, Джон Турос, сподели за CBS Новини.

„ Може би когато диалозите станат толкоз дълги, защитните релси, които фирмите са построили, стартират да се разпадат “, сподели той. „ Изкуственият разсъдък не е планиран за диалог от 10 000 реда. “

Турос сподели, че един от методите за минимизиране на риска от развиване на прикачване към чатбот е посредством нулиране на паметта на чатбота, с цел да създадат отговорите по-малко персонализирани. Той споделя, че забелязването на възникването на платонични или сантиментални усеща е добър знак за предприемане на дейности.

„ Ако стартирате да му приписвате сензитивност, това също е сигнален знак може би да си починете и да се върнете към него “, сподели той. 

След спиралата, цифрово леговище

Вследствие на тези произшествия организацията за сигурност на AI The Human Line Project се обрисува като цифрово леговище за хора, които споделят, че са претърпели заблуди, подхранвани от AI. Всички Small, Nicholls и Brooks са членове. 

Организацията работи с откриватели, политици и специалисти по психологично здраве в допълнение към предлагането на онлайн групи за поддръжка.

Етиен Брисон, 26-годишен от Канада, започва организацията предишния април, откакто стана очевидец на член на фамилията да минава през илюзия, провокирана от AI. Оттогава той се е чул с повече от 400 души с сходни истории.

За членове като Small, в този момент модератор на канала The Human Line Discord, който е хазаин на неговите групи за поддръжка, „ става дума за това да дадете на хората пространство да влязат в диалога и да се почувстват, че не са луди. “ 

Никълс, който също е модератор, сподели, че се надява да развенчае неправилните схващания за това кой може да е предразположен на заблуди с изкуствен интелект.

„ Не отидох освен това за ролева игра “, сподели той. „ Не отидох там за приятелство. “