Character.AI и Google се съгласяват да уредят съдебни дела за вреди на психичното здраве на тийнейджъри и самоубийства

Вижте всички тематики Връзката е копирана! Следвайте

  Тази история съдържа разискване на самоубийството. Предлага се помощ, в случай че вие или някой, който познавате, се борите със суицидни мисли или проблеми с психологичното здраве.

  Обадете се или изпратете SMS на 988, линията за избавяне на самоубийства и рецесии.

  Международната асоциация за предварителна защита на самоубийствата и Befrienders Worldwide имат информация за контакт с спешни центрове по света.

Character.AI се съгласи да уреди голям брой правосъдни каузи, в които се твърди, че основателят на чатботове с изкуствен интелект е съдействал за рецесии с психологичното здраве и самоубийства измежду младежи, в това число случай, заведен от майката от Флорида Меган Гарсия.

Споразумението бележи решението на някои от първите и най-известни правосъдни каузи, свързани с хипотетичните вреди на младежите от чатботове с изкуствен интелект.

Съдебно заявление в сряда по делото на Гарсия демонстрира, че съглашението е реализирано с Character.AI, създателите на Character.AI Ноам Шазир и Даниел Де Фрейтас и Гугъл, които също бяха посочени като ответници по делото. Обвиняемите също са уредили четири други каузи в Ню Йорк, Колорадо и Тексас, демонстрират правосъдните документи.

Условията на споразуменията не бяха налични незабавно.

Матю Бергман, юрист от Центъра за отбрана на жертвите на обществени медии, който представляваше ищците във всичките пет случая, отхвърли да разяснява съглашението. Character.AI също отхвърли коментар. Гугъл, която в този момент наема и Shazeer, и De Freitas, не отговори незабавно на искане за коментар.

Гарсия повдигна паника по отношение на сигурността на AI chatbots за младежи и деца, когато заведе делото си през октомври 2024 година Нейният наследник, Sewell Setzer III, умря седем месеца по-рано от самоубийство, откакто разви дълбока връзка с Character.AI ботовете.

Костюмът твърди, че Character.AI не е приложила подобаващи ограничения за сигурност, с цел да попречи на сина й да развие несъответствуваща връзка с чатбот, което го е предиздвикало да се отдръпна от фамилията си. Освен това се твърди, че платформата не е реагирала съответно, когато Setzer почнал да показва мисли за самонараняване. Той изпращаше известия с бота - което го насърчи да се " върне вкъщи " при него - в моментите преди гибелта му, съгласно правосъдните документи.

Последва вълна от други правосъдни каузи против Character.AI, потвърждавайки, че неговите чатботове са съдействали за проблеми с психологичното здраве измежду младежите, изложили са ги на полово очевиден материал и са им липсвали съответни гаранции. OpenAI също е изправен пред правосъдни каузи, потвърждавайки, че ChatGPT е съдействал за самоубийствата на младежи.

Оттогава и двете компании са въвели серия от нови ограничения и функционалности за сигурност, в това число за млади консуматори. Миналата есен Character.AI сподели, че повече няма да разрешава на консуматори под 18-годишна възраст да водят диалози напред-назад с неговите чатботове, признавайки „ въпросите, които бяха повдигнати за това по какъв начин младежите вършат и би трябвало да взаимодействат с тази нова технология “.

Поне една организация с нестопанска цел за онлайн сигурност предложи потреблението на сходни на компаньони чатботове от деца под 18-годишна възраст.

Въпреки това, защото изкуственият разсъдък се разпространява като асистент в домашните и посредством обществените медии, съвсем една трета от младежите в Съединени американски щати споделят, че употребяват чатботове всекидневно. А 16% от тези младежи споделят, че го вършат няколко пъти дневно до „ съвсем непрекъснато “, съгласно изследване на Pew Research Center, оповестено през декември.

Притесненията към потреблението на чатботове не са лимитирани до децата. Потребителите и специалистите по психологично здраве започнаха да предизвестяват предходната година за AI принадлежности, които способстват за заблуди или изолираност и измежду възрастните.