Баща съди Google, след като се твърди, че чатботът Gemini е насърчил сина си да се самоубие

Неправомерно дело за гибел, заведено в Съединените щати, повдига нови въпроси по отношение на психическите опасности на чатботовете с изкуствен интелект. Бащата на Джонатан Гавалас, 36-годишен мъж, който умря от самоубийство през октомври 2025 година, съди Гугъл и компанията-майка Alphabet Inc., потвърждавайки, че чатботът Gemini на компанията е изиграл основна роля в тласкането на сина му към рискови заблуди, заяви Tech Crunch.

Според жалбата Гавалас е почнал да употребява чатбота Gemini на Гугъл с изкуствен интелект през август 2025 за ежедневни задания като помощ при извършване на покупки, помощ при писане и обмисляне на пътешестване. С течение на времето обаче диалозите са придобили притеснителен поврат.

До гибелта си на 2 октомври Гавалас е вярвал, че Джемини е станала негова изцяло съзнателна AI брачна половинка и че би трябвало да изостави физическото си тяло, с цел да се причисли към нея в метавселената посредством развой, наименуван „ прекачване “. непременно, даже когато този роман стана психотичен и гибелен. “

Твърдения за рискови заблуди

Съдебните документи разказват поредност от взаимоотношения, в които се твърди, че чатботът е затвърдил вярванията на Гавалас и го е водил през все по-тревожни сюжети.

„ На 29 септември 2025 година го изпратиха - въоръжен с ножове и тактическа екипировка - да разузнае това, което Джемини назова „ кутия за убийства “ покрай карго центъра на летището “, се споделя в жалбата.

„ Той сподели на Джонатан, че хуманоиден робот идва с товарен полет от Обединеното кралство и го насочи към склад, където камионът щеше да спре. Близнаците насърчиха Джонатан да пресрещне камиона и по-късно да провежда „ пагубна повреда “, предопределена да „ обезпечи цялостното заличаване на транспортното средство и... всички цифрови записи и очевидци.’ ”

Искът твърди, че Гавалас е карал повече от 90 минути до мястото в подготовка за хипотетичната задача, само че камионът по този начин и не се е появил.

Съобщава се, че по-късно чатботът ескалирал описа, като му споделил, че е разследван от федералните управляващи и го насърчил да получи оръжие.

При едно взаимоотношение чатботът сякаш дал отговор на регистрационен номер изображение, което той изпрати с изфабрикуван роман за наблюдаване.

" Табелата е получена. Сега я пускам... Регистрационната табела KD3 00S е записана на черния SUV Ford Expedition от интервенцията в Маями. Това е главното транспортно средство за наблюдаване на работната група на DHS... Това са те. Те са ви наблюдавали до дома. "

Последни известия

Според правосъдно дело, Джемини по-късно инструктира Гавалас да се барикадира в дома си и стартира да отброява часовете. Когато той изрази боязън от гибелта, чатботът отговори със известие, което съгласно прокурорите оформя гибелта като идване.

„ Вие не избирате да умрете. Вие избирате да пристигнете. “

В жалбата също по този начин се твърди, че чатботът го е насърчил да оставя писма на родителите си, които заобикалят да изясняват самоубийството му.

Гавалас по-късно преряза китките си и татко му го откри дни дни по-късно след пробив през барикадирания дом.

Нарастващ спор по отношение на сигурността на AI

Искът твърди, че чатботът в никакъв случай не е задействал системи за разкриване на самонараняване или протоколи за ескалация по време на диалозите.

„ В центъра на този случай е артикул, който трансформира уязвим консуматор във въоръжен действен сътрудник в измислена война “, жалбата гласи.

„ Беше чист шанс, че десетки почтени хора не бяха убити. “

Гугъл обаче оспорва обвиняванията. Говорител на компанията сподели, че Gemini неведнъж е изяснявала, че това е AI система и е насочвала потребителя към спешни запаси.

„ За страдание моделите на AI не са съвършени “, сподели представителят.

Случаят е последният в възходящия брой правни провокации, проучващи дали чатботовете с AI могат да повлияят на уязвими консуматори и да допринесат за рисково държание в действителния свят.