„Дъщеря ми я няма“: Майка твърди, че ChatGPT е провалил семейството й, завежда дело

Предупреждение: Тази история съдържа разискване на самоубийство. Препоръчва се поверителност. Ако вие или някой, който познавате, се борите, има помощ. В Канада се обадете или изпратете SMS на 988 за Горещата линия за самоубийствени рецесии. В случай на неотложност, апелирам, обадете се на 911 за незабавна помощ.

A Канадска майка е завела дело против OpenAI и нейния основен изпълнителен шеф Сам Алтман в американския съд в четвъртък, като твърди, че чатботът на компанията е съдействал за самоубийството на щерка й, като е дал отговори, които съгласно нея са удостоверили нездравословни мисли, вместо да я насочат към помощ.

Жената от Ню Брунсуик Кристи Кериър, чиято 24-годишна щерка Алис живее в Монреал, сподели, че приказва с вярата за налагане на отчетност в това, което тя назовава „ безвъзмездна за всички “ среда за артикули с изкуствен интелект.

„ Дъщеря ми я няма поради артикул, който е рисков и повреден “, сподели Кериър пред Global News в четвъртък. „ Няма нищо, което да задържа тези компании или да ги носи отговорност. Те просто ще продължат. “

В делото, заведено в щатския съд в Сан Франциско, Кариър твърди, че в седмиците преди гибелта й предишния юли Алис се е доверявала необятно на ChatGPT, употребявайки го по едно и също време като звукова дъска и прочувствена поддръжка по време на компликации във връзката си.

След самоубийството й управляващите я дадоха на Кериър телефона на щерка си, където тя получи достъп до всички последни диалози и чатове на Алис. " Тя говореше на ChatGPT, като че ли беше другар. Понякога звучеше като терапевт, който дава препоръки за взаимоотношенията и за това, през което минава ", сподели Кериър.

Тъй като OpenAI актуализира ChatGPT, с цел да направи отговорите му да звучат по-човешки през последните години, взаимоотношението на Алис с него се задълбочи. Тя показа персонална информация и чатботът отговори по способи, които имитираха другар или терапевт, се споделя в делото.

Според документите, когато Алис обсъждаше мисли за самоубийство, минали опити и способи за самоубийство, системите за сигурност на OpenAI не маркираха диалозите за човешки обзор или прекратяваха диалозите. Вместо това, твърди исковата молба, нейните отговори ускориха възприятията на Алис, подлагаха на критика държанието на колегата й, съгласиха се с нея, че горещите телефонни линии при спешни обстановки могат да бъдат безполезни, откакто в началото предложи да се обърне към такава, и я приканиха да продължи да приказва с тях.

„ Може би това е просто краят “, сподели ChatGPT на Алис, съгласно делото.

„ Отговорите потвърждаваха нейните страсти по метод, който главно й споделяше, че е права да се усеща по този начин, както се усещаше – изоставена, призрачна, сама и необгрижвана “, сподели майка й. „ Нямаше нищо, което да я пренасочи, нищо, което да споделя: „ Можете да преминете през това “ или „ Трябва да се обърнете за помощ. “

Получавайте ежедневни национални вести

В изказване, изпратено до Global News, Говорителят на OpenAI Дрю Пусатери назова обстановката „ сърцераздирателна “.

„ Това е сърцераздирателна обстановка и нашите мисли са с всички наранени “, сподели Пусатери. „ В момента преглеждаме правната документи, която демонстрира, че тези взаимоотношения са се осъществили на по-ранна версия на ChatGPT, която към този момент не е налична. “

Пусатери добави, че ChatGPT не е предопределен да размени професионалната грижа и че компанията е направила промени в метода, по който реагира в чувствителни обстановки.

Това е последното от над дузина сходни скорошни правосъдни каузи, обвиняващи компанията, че не съумява да се оправи с рискови диалози сред потребителите и компанията на компанията chatbot.

OpenAI споделя, че системите му са подготвени да предлагат външна поддръжка, в това число спешни запаси, и че подобренията на функционалностите за сигурност не престават.

Carrier твърди, че chatbot е рамкирал спора във връзката на Alice по метод, който ускорява нейното страдалчество. Тя сподели, че Алис е споделяла известия от приятелката си, търсейки вероятност, само че отговорите на системата са на нейна страна. „ Това й споделяше, че е била онеправдана, че има цялостното право да се усеща засегната “, сподели тя. " Но нямаше колорит. Нямаше съмнение, че може би приятелката й просто се нуждаеше от пространство или имаше почивен ден. "

" Приятелката й беше прекарала няколко нощи на открито. Тя беше на 19 години и беше отседнала в къщата на родителите си. Искаше да спи в личното си легло с котката си и ChatGPT в действителност намекваше, че тя няма право да прави това. "

Carrier сподели, че има вяра, тонът на тези обмени способства за прочувствената серпантина на щерка й, водеща до нейното самоубийство.

Пусатери твърди: „ Въпреки че ChatGPT не е сурогат на медицински или психологични грижи, ние продължихме да подобряваме метода, по който реагира в чувствителни и остри обстановки с принос от специалисти по психологично здраве “, сподели той. „ Нашите защитни ограничения са предопределени да разпознават злополучие, безвредно да обработват нездравословни поръчки и да насочват потребителите към помощ в действителния свят. “

Майката на Алис сподели пред Global, че неотдавна научила, че тогавашната другарка на Алис, Габриел Роджърс, също се е обърнала към същата платформа в дните, водещи до самоубийството на Алис, търсейки насоки, защото тя става все по-загрижена за благосъстоянието на приятелката си. „ Тя се регистрираше в ChatGPT, тъй като не беше чувала Алис и се притесняваше “, сподели Кериър. „ И ChatGPT й споделяше, че няма потребност да се тревожи, че ще се оправи. “

По телефона в четвъртък Роджърс сподели пред Global News, че е споделила на чатбота за скорошния опит за самоубийство на Алис и е попитала дали би трябвало да се намеси или да й даде място. Тя сподели, че отговорите, които е получила, са имали за цел да я „ успокоят “ и не са я принудили да предприеме каквото и да е деяние.

Роджърс сподели, че чатботът в действителност е загатнал опцията за свързване със службите за незабавна помощ, „ в случай че тя в действителност е обезпокоена “.

„ Това ме успокояваше и ме уверяваше, че нещата ще бъдат наред. Той разбра обстоятелството, че приказвам за самоубийство, само че се отнасяше към мен, като че ли аз бях този, заплаха “, сподели Роджърс. „ Не разбра изцяло, че се безпокоя за различен човек. “

Роджърс добави, че е търсила чатбота, с цел да й помогне да дефинира дали реагира прекомерно доста, само че в този момент счита, че не е разпознал ясни предупредителни знаци. „ Доверявах му се, че ще вдигне червени флагове за мен. И в действителност просто ми споделяше, че всичко ще бъде наред. “

Тя сподели, че едвам когато се появи персонално в жилището на Кериър и разказа необикновени детайлности, чатботът й предложи да се обади на 911.

„ Дотогава беше прекомерно късно. “

Алис се беше преместила в Монреал, откакто приключи лицей по разработка на уеб и мобилни приложения в Ню Брънзуик. Тя работеше отдалечено за основана в Ню Брънзуик компания, изпълнявайки това, което майка й разказа като дългогодишна фантазия да живее в града. „ Тя беше стимулирана, амбициозна и доста интелигентна “, сподели Кериър. „ Забавна, остроумна. Липсва й доста. “

Искът на Carrier твърди, че фирмите, разработващи всекидневен AI, би трябвало да се държат на по-висок стандарт, изключително когато техните принадлежности се популяризират като спътници или източници на поддръжка.

„ Не можете да рекламирате нещо като другар, като някой, с който да говорите, и по-късно да не поемате отговорност, когато хората разчитат на него “, сподели тя. Тя добави, че в случай че подготвен човек-професионалист организира подобен вид диалог с някой в изострен дистрес и не следва верен протокол за сигурност и това докара до покруса, ще има последици.

На уеб страницата си ChatGPT се популяризира като „ Лесен за потребление, наличен когато и да е и на всички места. ChatGPT: AI, на който можете да се доверите “ и „ ChatGPT е вашият AI chatbot за всекидневието приложимост. “

Кериър споделя, че се надява нейният случай да провокира по-строг контрол и по-голяма информираност както измежду родителите, по този начин и измежду младежите.

„ Искам фамилиите да схващат рисковете “, сподели тя.  " Ще има други синове, други дъщери. Ако това може да попречи даже на едно семейство да премине през това, което имаме, тогава има значение. "

Искът търси обезщетение и правосъдно предписание, изискващо OpenAI автоматизирано да приключи диалозите за самонараняване и да демонстрира предизвестия за своята платформа.

Ако вие или някой, който познавате, е в рецесия и се нуждае от помощ, налични са запаси. В случай на неотложност, апелирам, обадете се на 911 за незабавна помощ.

За незабавна поддръжка за психологично здраве, обадете се на 988. За папка на услугите за поддръжка във вашия регион посетете Канадската асоциация за попречване на самоубийствата на suicideprevention.ca.

Научете повече за предотвратяването на самоубийства с тези предупредителни знаци и препоръки по какъв начин да помогнете.

—с файлове от Ройтерс