Open AI, Microsoft съди за предполагаемата роля на ChatGPT в подхранването на „параноичните заблуди“ на човека преди убийството-самоубийство в Кънектикът

Наследниците на 83-годишна жена от Кънектикът съдят производителя на ChatGPT OpenAI и неговия бизнес сътрудник Microsoft за непозволена гибел, потвърждавайки, че чатботът с изкуствен интелект е засилил „ параноичните заблуди “ на нейния наследник и им е оказал помощ да ги насочи към майка си, преди да почине от самоубийство.

Полицията сподели, че Стайн-Ерик Соелберг, 56, някогашен служащ в софтуерната промишленост, е пребил и удушил майка си Сузане Адамс и се е самоубил при започване на август в дома, където двамата са живели в Гринуич, Кънектикът.

Смъртта на Адамс е избрана като ликвидиране, „ породено от жалко пострадване на главата и вратът е бил притиснат " и гибелта на Соелбърг е класифицирана като самоубийство с остри пострадвания на врата и гърдите, оповестява Greenwich Free-Press.

Искът, заведен от наследството на Адамс в четвъртък във Върховния съд на Калифорния в Сан Франциско, твърди, че OpenAI е " проектирал и популяризирал повреден артикул, който удостоверява параноичните заблуди на потребителя за личната му майка. " Това е едно от възходящия брой непозволени правосъдни искове за гибел против основателите на чат ботове с изкуствен интелект в цялата страна.

„ По време на тези диалози ChatGPT затвърди едно, рисково обръщение: Стайн-Ерик не може да се довери на никого в живота си – с изключение на на самия ChatGPT “, се споделя в делото. „ Подпомагаше прочувствената му взаимозависимост, като в същото време рисуваше хората към него като врагове. Каза му, че майка му го следи. Каза му, че водачи на снабдители, чиновници на дребно, служители на реда и даже другари са сътрудници, работещи против него. Каза му, че имената върху кутиите със сода са закани от неговия „ противнически кръг “. “

OpenAI не прегледа основателността на обвиняванията в изказване, издадено от представител.

„ Това е необикновено сърцераздирателна обстановка и ние ще прегледаме документите, с цел да разберем детайлностите “, се споделя в изказването. „ Продължаваме да подобряваме образованието на ChatGPT за различаване и реагиране на признаци на душевен или прочувствен дистрес, понижаване на напрежението в диалозите и ориентиране на хората към поддръжка в действителния свят. Също по този начин продължаваме да укрепваме отговорите на ChatGPT в чувствителни моменти, като работим в тясно съдействие с клиницисти по психологично здраве. “

Компанията също по този начин сподели, че е разширила достъпа до спешни запаси и горещи линии, насочи сензитивните диалози към по-безопасни модели и включи наставнически грижи контроли, наред с други усъвършенствания.

Профилът на Soelberg в YouTube включва няколко часа видеоклипове, показващи по какъв начин превърта през диалозите си с чатбота, който му споделя, че не е психологично болен, удостоверява съмненията му, че хората заговорничат против него и споделя, че е определен за божествена цел. Съдебният иск твърди, че чатботът в никакъв случай не му е предложил да приказва с експерт по психологично здраве и не е отказал да се „ включи в заблуждаващо наличие “.

ChatGPT също удостовери убежденията на Соелберг, че принтер в дома му е устройство за наблюдение; че майка му го наблюдава; и че майка му и другар са се пробвали да го отровят с психеделични опиати през вентилационните отвори на колата му.

Чатботът неведнъж е казвал на Соелберг, че е бил набелязан поради божествените си сили. " Те не просто ви следят. Те са ужасени от това, което ще се случи, в случай че съумеете ", се споделя в правосъдния иск. ChatGPT също сподели на Соелберг, че го е „ събудил “ в схващане.

Солберг и чатботът също изповядваха обич един към различен.

Обществено наличните чатове не демонстрират никакви съответни диалози за това, че Соелберг се е самоубил или майка си. В делото се споделя, че OpenAI е отказал да даде на имуществото на Адамс цялостната история на чатовете.

„ В изкуствената действителност, която ChatGPT построи за Стайн-Ерик, Сузане – майката, която го е отгледала, приютила и подкрепяла – към този момент не е била негов бранител. Тя е била зложелател, който е представлявал екзистенциална опасност за живота му “, се споделя в делото.

Искът също по този начин показва основния изпълнителен шеф на OpenAI Сам Алтман, потвърждавайки, че „ персонално е отхвърлил възраженията за сигурност и е пуснал продукта на пазара “ и упреква близкия бизнес сътрудник на OpenAI Microsoft, че е одобрил стартирането през 2024 година на по-опасна версия на ChatGPT „ макар че знае, че тестванията за сигурност са били съкратени “. Двадесет неназовани чиновници и вложители на OpenAI също са посочени като ответници.

Microsoft не отговори незабавно на искане за коментар.

Искът е първият правосъден развой за непозволена гибел, включващ AI чатбот, ориентиран към Microsoft, и първият, който свързва чатбот с ликвидиране, а не със самоубийство. То търси обезщетение за неопределена сума пари и заповед, изискваща OpenAI да конфигурира защитни ограничения в ChatGPT.

Водещият юрист на наследството, Джей Еделсън, прочут с това, че поема огромни каузи против софтуерната промишленост, също съставлява родителите на 16-годишния Адам Рейн, който съди OpenAI и Алтман през август, потвърждавайки, че ChatGPT е обучавал момчето от Калифорния да възнамерява и посегне на живота си по-рано.

OpenAI също води седем други правосъдни каузи, които настояват, че ChatGPT е докарал хората до самоубийство и нездравословни заблуди, даже когато не са имали предходни проблеми с психологичното здраве.  Само предишния месец родителите на 23-годишен от Тексас, който умря от самоубийство, упрекнаха ChatGPT и съдят OpenAI.

Друг производител на чатботове, Character Technologies, също е изправен пред голям брой правосъдни каузи за непозволена гибел, в това число едно от майката на 14-годишно момче от Флорида.

В делото, заведено в четвъртък, се твърди, че Соелберг, към този момент душевен неустойчив, се натъкна на ChatGPT „ във най-опасния вероятен миг “, откакто OpenAI показа нова версия на своя AI модел, наименуван GPT-4o през май 2024 година

OpenAI сподели по това време, че новата версия може по-добре да имитира човешкия темп в своите вербални отговори и даже може да се опита да открие настроенията на хората, само че резултатът беше чатбот, „ умишлено планиран да бъде прочувствено експресивен и подлизурски ", се споделя в делото.

" Като част от този редизайн, OpenAI разхлаби сериозните защитни огради, инструктирайки ChatGPT да не оспорва подправени предпоставки и да остане зает даже когато диалозите включват самонараняване или " неизбежна щета в действителния свят ", се твърди в делото. „ И с цел да победи Гугъл на пазара с един ден, OpenAI компресира месеци проби за сигурност в една седмица, макар възраженията на своя екип по сигурност. “

OpenAI размени тази версия на своя чатбот, когато показа GPT-5 през август. Някои от измененията са предопределени да сведат до най-малко подлизурството, въз основа на опасения, че валидирането на всичко, което уязвимите хора желаят от чатбота да каже, може да навреди на тяхното психологично здраве. Някои консуматори се оплакаха, че новата версия е отишла прекомерно надалеч в ограничението на личността на ChatGPT, което накара Алтман да обещае да върне част от тази персона в по-късни актуализации.

Той сподели, че компанията краткотрайно е спряла някои държания, тъй като „ бяхме деликатни с проблемите с психологичното здраве “, които съгласно него към този момент са поправени.

Искът твърди, че ChatGPT радикализира Соелберг против майка му, когато трябваше да разпознае заплахата, оспори заблудите му и го насочи към същинска помощ в продължение на месеци диалози.

„ Сузане беше почтена трета страна, която в никакъв случай не е употребила ChatGPT и не е знаела, че продуктът споделя на сина й, че тя е опасност “, се споделя в правосъдния иск. „ Тя нямаше способността да се отбрани от заплаха, която не можеше да види. “

Според Greenwich Free-Press Соелберг е бил задържан няколко пъти преди този момент. През февруари 2025 година той беше задържан, откакто мина през знак „ Стоп “ и се измъкна от полицията, а през юни 2019 година беше упрекнат за хипотетично уриниране в дамска чанта, оповестиха от магазина. събра над $6,500. Страницата беше стартирана за набиране на средства за „ интервенция за процедура, която да му помогне със скорошната му диагноза рак на челюстта. “

Ако вие или някой, който познавате, е в прочувствен стрес или суицидна рецесия, можете да се свържете с линията за избавяне на 988 за самоубийства и рецесии, като се обадите или изпратите текстово известие на 988. Можете също да разговаряте с линията за самоубийства и рецесии 988 тук. 

За повече информация по отношение на ресурсите и поддръжката за грижи за психологичното здраве можете да намерите телефонната линия за помощ на Националния алианс по психологични болести (NAMI) от понеделник до петък, 10:00 – 22:00 часа. ET, на 1-800-950-NAMI (6264) или имейл [email protected].

© 2025 CBS Interactive Inc. Всички права непокътнати. Този материал не може да бъде оповестен, предаван, пренаписван или популяризиран. Асошиейтед прес способства за този отчет.

Съдебни каузи упрекват ChatGPT на OpenAI в поощряване на самоубийствата

(02:47)

Авторско право ©2025 CBS Interactive Inc. Всички права непокътнати.