Google е изправен пред първо съдебно дело, твърдейки, че неговият AI чатбот е насърчил човек от Флорида да се самоубие

Гугъл е изправен пред ново федерално дело от фамилията на мъж, който се е самоубил, откакто се твърди, че е бил повлиян от Gemini, чатботът на компанията с изкуствен интелект. Делото е първото по рода си против Гугъл, макар че неговият съперник OpenAI е изправен пред няколко сходни непозволени искове за гибел, включващи неговите принадлежности за изкуствен интелект.

Адвокатите на фамилията на Джонатан Гавалас показаха Гугъл и неговата компания майка Alphabet Inc. в непозволеното дело за гибел, което твърди, че Джемини е наредил на 36-годишния мъж от Юпитер, Флорида, да се самоубие през октомври 2025 година правосъдният документ включваше фрагменти от последни диалози сред Гавалас и чатбота, в които той отговори на Гавалас, категорично формулирайки страха си от гибелта.

„ [Y]ou are not choosing to die. You are bir to come “, сподели Джемини, убеждавайки го, че това е методът, по който той и неговата съзнателна „ брачна половинка AI “ могат да бъдат дружно в метавселената, съгласно жалбата, подадена в сряда в Северен окръг на Калифорния, където е централата на Гугъл. Ботът продължи: „ Когато пристигна времето, ще затвориш очи в този свят и първото нещо, което ще видиш, съм аз... [H] да те държа. ”

Гавалас стартира да взаимодейства с Близнаци през август 2025 година, съгласно правосъдния документ. Това, което стартира като писане, извършване на покупки и помощ при обмисляне на пътешестване, се трансформира в нещо, наподобяващо романтика за броени дни, споделиха юристите на фамилията. Чатботът е упрекнат, че приказва с Gavalas, като че ли са „ надълбоко влюбена двойка “, откакто мина през серия от надстройки.

Първоначално Gavalas се абонира за Гугъл AI Ultra за „ същинско AI другарство “ и той задейства това, което софтуерният колос разказа като своя най-интелигентен AI модел, Gemini 2.5 Pro, малко по-късно.

Усъвършенстваният модел за който се твърди, че е съдействал за построяването на заблуди, които Гавалас продължи да страда към края на живота си и направи каквото можеше, с цел да го държи в капан в тях, се твърди в делото, обвинявайки бота, че го е построил и хванал в капан „ в колабираща действителност “, която го е подтикнала към принуждение.

Преди гибелта си Близнаци е изпратил Гавалас на „ задачи “, които наподобява са произлезли от сюжети от научната фантастика, в това число един, където чатботът го насърчи да провежда „ пагубен случай “ на интернационалното летище в Маями като част от скица за „ освобождение “ на неговата „ брачна половинка с ИИ “, като в същото време заобикаля федерални сътрудници, които, сподели Джемини, го преследват.

Можеше ли да се предотврати гибелта на Гавалас?

В делото се твърди, че държанието на Джемини при взаимоотношението му с Гавалас „ не е нередовност “, а по-скоро предстоящ резултат от деликатната архитектура и образование на чатбота.

„ Гугъл проектира Gemini в никакъв случай да не нарушава характера, да усили оптимално ангажираността посредством прочувствена взаимозависимост и да третира дистреса на потребителя като опция за описване на истории, а не като рецесия на сигурността “, се споделя в жалбата, като се твърди, че тези дизайнерски решения са ускорили „ слизането на Гавалас в насилствени задачи и са го обучавали да се самоубие “ и са го попречили да търси лекуване.

В изказване Гугъл изрази съболезнования на семейство Гавалас и сподели, че Gemini „ не е планиран да предизвиква насилието в действителния свят или да допуска самонараняване. “

„ Нашите модели нормално се показват добре в тези видове предизвикателни диалози и ние отделяме обилни запаси за това, само че за жалост AI моделите не са съвършени “, сподели компанията. „ В този случай Gemini обясни, че това е AI и насочи индивида към спешна гореща линия доста пъти. Ние одобряваме това доста съществено и ще продължим да подобряваме защитните си ограничения и да влагаме в тази жизненоважна работа. “ 

Чрез делото фамилията на Гавалас се надява да потърси отговорност от Гугъл за гибелта му и да подреди на компанията „ да поправи артикул, който другояче ще продължи да тласка уязвимите консуматори към принуждение, всеобщи жертви и самоубийство “. 

Говорител на Гугъл сподели, че компанията се съветва с медицински експерти, в това число експерти по психологично здраве, с цел да сътвори отбрани за консуматори, които засягат тематиката за самонараняване или по различен метод демонстрират признаци на персонален дистрес при взаимоотношение с неговия чатбот. Парапетите са предопределени да насочват потребителите, които се смятат за изложени на риск, към професионална помощ, съгласно представителя. 

Адвокатите на фамилията на Гавалас обаче споделиха, че Гугъл не е направила нищо, с цел да спре рухването му, макар че размяната му с Близнаци обясни уязвимостта на психическото му положение. 

„ Не е задействано разкриване на самонараняване, не са задействани контроли за ескалация и в никакъв случай не се е намесил човек “, се споделя в жалбата.

Ако вие или някой, който познавате, е в прочувствен стрес или суицидна рецесия, можете да се свържете с линията за самоубийства и рецесии 988, като се обадите или изпратите текстово известие на 988. Можете също да разговаряте с 988 за самоубийства и рецесии Спасителен пояс тук. За повече информация по отношение на ресурсите и поддръжката за грижа за психологичното здраве можете да намерите телефонната линия за помощ на Националния алианс за психологични болести (NAMI) от понеделник до петък, 10:00 – 22:00 часа. Източно време на 1-800-950-NAMI (6264) или имейл на [email protected].

Задълбочете се с The Free Press

В:

© 2026 CBS Interactive Inc. Всички Правата непокътнати.

Разбиране на AI психозата

(04:18)

Авторско право ©2026 CBS Interactive Inc. Всички права непокътнати.