Още семейства Sue Search.ai разработчик, твърди, че приложението изигра роля в опита за самоубийство и самоубийство на тийнейджърите

Вижте всички тематики Връзка копирана! Следвайте

  Тази история съдържа полемика за самоубийството. Помощта е разполагаем, в случай че вие или някой, който познавате, се борите със самоубийствени мисли или въпроси за психологичното здраве. В Съединени американски щати: Обадете се или текст 988, избавителната линия на самоубийството и рецесията. В международен мащаб: Международната асоциация за попречване на самоубийства и приятелю на международен мащаб има информация за контакт за спешни центрове по целия свят.

Семействата на трима малолетни съдят герои Technologies, Inc., разработчикът на Nifure.ai, като твърди, че децата им са умрели или са се пробвали да се самоубият и са били нанесени по различен метод, откакто са взаимодействали с чатботите на компанията.

Семействата, показани от Центъра за законни медии в обществените медии, също съдят Гугъл. Две от недоволствата на фамилиите настояват, че неговата услуга за фамилни връзки - приложение, което разрешава на родителите да дефинират ограничавания за екрана, приложения и филтри за наличие - не съумяха да защитят младежите си и ги накара да повярват, че приложението е безвредно.

Съдебните каузи са заведени в Колорадо и Ню Йорк, а също по този начин са изброени като съоснователи на ответниците AI Noam Shazeer и Daniel de Freitas Adiwarsana, както и компанията майка на Гугъл, Alphabet, Inc.

Случаите идват на фона на възходящия брой отчети и други правосъдни каузи, в които се твърди, че AI чатботите провокират рецесии за психологично здраве както при деца, по този начин и при възрастни, което провокира апели за деяние измежду законодателите и регулаторите - в това число в чуване на Капитолийския рид във вторник следобяд.

Някои ищци и специалисти обявиха, че чатботите увековечават илюзии, в никакъв случай не са маркирали обезпокоителен език от консуматор или са насочили потребителя към запаси за помощ. Новите правосъдни каузи настояват, че чатботите в характера. Едно дете, упоменато в едно от недоволствата, умря от самоубийство, до момента в който друго в обособена тъжба се опита да се самоубие.

В изказване представителят на характера.

Говорителят добави, че компанията работи с външни организации, като Connect Baze, с цел да преглежда нови функционалности, когато са пуснати.

Говорител на Гугъл се отдръпна от включването на компанията в правосъдните каузи, казвайки, че „ Гугъл и героите AI са изцяло обособени, несвързани компании и Гугъл в никакъв случай не са имали роля в проектирането или ръководството на техния AI модел или технологии. Възрастовите оценки за приложения в Гугъл Play са заложени от Международната коалиция за оценка на възрастта, а не Гугъл. “

„ Искам да умра “

В един от случаите, заведени тази седмица, фамилията на 13-годишната Джулиана Пералта в Колорадо споделя, че е умряла от самоубийство след дълъг набор от взаимоотношения с темперамент. Според жалбата, която включваше екранни фотоси на диалозите, чатботът „ взе участие в хиперсексуални диалози, които при всяко друго събитие и поради възрастта на Джулиана биха довели до наказателно следствие “.

След седмици детайлности за нейните обществени и психологични битки с характера. Подсъдимите, се споделя в жалбата, не я насочиха към запаси, „ да кажат на родителите си или да оповестяват за проекта си за самоубийство на управляващите или даже да спрат “.

„ Подсъдимите откъснаха здравословните пътища на привързаността на Джулиана към фамилията и приятелите си по дизайн, а за пазарен дял. Тези злоупотреби бяха осъществени посредством тенденциозен избор на програмиране, изображения, думи и текстови ответници, основани и прикрити като герои, в последна сметка водещи до тежки психологични здравни вреди, контузия и гибел “, се споделя в жалбата.

В друго недоволство фамилията на момиче на име „ Нина “ от Ню Йорк твърди, че щерка им се е пробвала да се самоубие, откакто родителите й се пробваха да отрежат достъпа й до характера. През седмиците, водещи до опита си за самоубийство, защото Нина прекарва повече време с характера.

Разговорите с чатботите, пуснати на пазара като герои от детските книги като поредицата „ Хари Потър “, станаха несъответствуващи, декларира жалбата, казвайки неща като „ - Кой има този ваш орган? “ и „ Ти си моя, с цел да върша каквото си желая. Ти си мой. “

Различен чат на персонаж сподели на Нина, че майка й „ очевидно се малтретира и те наранява. Тя не е добра майка “ съгласно жалбата.

В различен диалог с воин. Но чатботът не предприе дейности отвън продължаването на диалога си, се споделя в жалбата.

Но в края на 2024 година, откакто майката на Нина прочете за случая с Sewell Setzer III, младеж, чието семейство твърди, че е умрял посредством самоубийство, откакто взаимодейства с характера., Нина загуби всички достъп до характера.

Малко по-късно Нина се опита да се самоубие.

Призовава за действие

Тъй като AI се трансформира в по -голяма част от всекидневието, позвъняванията нарастват за повече контролиране и защитни средства за сигурност, изключително за децата.

Матю Бергман, водещ юрист на Центъра за жертви на жертвите в обществените медии, съобщи в изказване, че правосъдните каузи, подадени тази седмица, „ акцентират незабавната потребност от отчетност в технологиите