Семейства на жертви на стрелба в училище в Канада съдят OpenAI за използването на ChatGPT от стрелеца

Семействата на жертвите на пукотевица в учебно заведение в град в канадските Скалистите планини съдят компанията за изкуствен интелект OpenAI във федералния съд на Съединени американски щати, като желаят да държат производителя на ChatGPT виновен за това, че не е предизвестил полицията за тревожните взаимоотношения на стрелеца с чатбота.

Заведено дело Сряда от името на 12-годишната Мая Гебала, която беше сериозно ранена при стрелбата през февруари, е измежду първите от десетки случаи, които фамилиите в Тъмблър Ридж, Британска Колумбия възнамеряват с искове за непозволена гибел, немарливост и отговорност за продукта.

Адвокатът на ищците Джей Еделсън сподели в изявление, че решенията, взети от OpenAI и неговия основен изпълнителен шеф Сам Алтман, " са унищожили града. Хората са в действителност издръжливи, само че това, което се случи, е невъобразимо. "

Алтман изпрати писмо предходната седмица, в което публично се извини на общността, че компанията му не е уведомила правоприлагащите органи за онлайн държанието на стрелеца.

Властите споделиха, че стрелецът е умъртвил майка й и 11-годишния доведен брат в дома им на 10 февруари, преди да открие огън в близкото приблизително учебно заведение Tumbler Ridge, убивайки пет деца и един педагог, преди да се самоубие. Двадесет и пет души също бяха ранени при офанзивата, най-смъртоносната всеобща пукотевица в Канада от години.

Случаят акцентира опасенията по отношение на вредите, породени от прекомерно приятните чатботове с изкуствен интелект и какви отговорности има софтуерната промишленост да ги управлява или да уведомява управляващите за планувано принуждение от консуматори на чатботове. Този месец прокурорите, проверяващи гибелта на двама докторанти от Университета на Южна Флорида, споделиха, че обвиненият е попитал ChatGPT за изхвърлянето на трупове в навечерието на изгубването на студентите.

В отговор на делото OpenAI сподели в документално изказване, че „ събитията в Tumbler Ridge са покруса. Имаме политика на нулева приемливост към потреблението на нашите принадлежности за подкрепяне при осъществяване на принуждение. “

„ Както споделихме с канадски чиновници, ние към този момент засилихме нашите защитни ограничения, в това число възстановяване на метода, по който ChatGPT реагира на признаци на злополучие, свързване на хората с локална поддръжка и запаси за психологично здраве, усилване на метода, по който оценяваме и ескалираме евентуални закани от принуждение, и възстановяване на откриването на многократни извършители на разпоредбите “, сподели компанията.

Еделсън, основан в Чикаго юрист, прочут с това, че поема софтуерната промишленост, към този момент жонглира с редица високопоставени каузи против OpenAI, в това число от фамилията на калифорнийски младеж, който се самоуби след диалози с ChatGPT, и различен от наследниците на 83-годишна жена от Кънектикът, убита от сина си, откакто се твърди, че ChatGPT е усилил „ параноичните заблуди “ на мъжа.

„ Това не е пасивна технология “, сподели Еделсън, сравнявайки взаимоотношенията на чатбота с по-конвенционално онлайн търсене на информация. „ Това, което сме виждали в предишното, е, че (за) хора, които са психологично заболели, чатботът ще удостовери това, което споделят, и по-късно ще разшири това, което споделят. “

Миналата седмица Еделсън посети дребното градче Тъмблър Ридж и се срещна с десетки хора в мазето на център за гости. Той също посети Гебала в детска болница във Ванкувър, където тя остава приета в болница и изглеждаше нащрек, само че не можеше да приказва.

„ Беше толкоз сърцераздирателно “, сподели той.

Исковете, заведени в сряда, съставляват фамилиите на петте убити деца, цел на стрелбата в учебно заведение: Зоуи Беноа, Абел Мванса младши, Тикария „ Тики “ Лампърт и Кайли Смит, всичките на 12, и Езекиел Скофийлд, 13, и асистентката по обучение Шанда Aviugana-Durand.

След стрелбите OpenAI заяви, че предишния юни компанията е отбелязала, че акаунтът на стрелеца е бил употребен за разискване на принуждение против други хора.

Компанията сподели, че обмисля дали да отнесе акаунта до Кралската канадска конна полиция, само че по това време откри, че интензивността в акаунта не дава отговор на прага за препращане към правоприлагащите органи. OpenAI забрани акаунта през юни за нарушение на политиката му за потребление.

Съдебните каузи, заведени в сряда, настояват, че „ жертвите не са научили това, тъй като OpenAI следва, а тъй като личните му чиновници го изтекоха на The Wall Street Journal, откакто към този момент не можеха да понасят мълчанието на компанията. “

В писмото си, оповестено в петък, Алтман сподели, че „ надълбоко съжалява, че не предупредихме правоприлагащите органи за акаунта, който беше неразрешен през юни. “

„ Въпреки че знам, че думите в никакъв случай не могат да бъдат задоволителни, имам вяра, че извинението е належащо, с цел да се признае вредата и необратимата загуба, претърпяна от вашата общественост “, написа Алтман.

Премиерът на Британска Колумбия Дейвид Еби в обява в обществените медии назова извинението „ нужни и въпреки всичко извънредно незадоволителни за опустошението, нанесено на фамилиите на Tumbler Ridge. “

Искът Gebala упреква OpenAI в немарливост, включваща пропуск да предизвести органите на реда и „ подкрепяне и съучастничество в всеобща пукотевица. “

Наред с компенсациите, делото Gebala изисква правосъдно предписание, което ще изисква OpenAI да забрани на потребителите от ChatGPT, в случай че сметките им са били деактивиран за насилствена корист и да изиска от компанията да предизвести правоприлагащите органи, когато техните системи разпознават някой, който съставлява „ риск от принуждение в действителния свят “.

По-ранен случай беше заведен в съд в Британска Колумбия, само че екип от юристи в двете страни се стреми да докара обвързваните лица в Сан Франциско, където е централата на OpenAI.

——- Журналистът от AP Джим Морис способства за тази история от Ванкувър, Британска Колумбия.