Семейство на дете, ранено при стрелба в канадско училище, съди OpenAI

Семейството на момиче, тежко ранено по време на всеобща пукотевица в канадско учебно заведение, съди основателя на ChatGPT OpenAI, като твърди, че е знаело, че обвиненият е бил е възнамерявал нахлуване, само че не е уведомил управляващите.

Дванадесетгодишната Мая Гебала беше простреляна във врата и главата при нападението в Тъмблър Ридж на 10 февруари и остава в болница.

Първоначален акаунт в ChatGPT, обвързван с заподозрената, 18-годишната Джеси Ван Рутселар, беше неразрешена от OpenAI през юни 2025 година заради естеството на диалозите й с чатбота, само че канадската полиция не беше известена.

OpeanAI сподели на BBC, че се е заел да направи „ значими промени “, с цел да помогне за попречване на сходни нещастия в бъдеще.

Осем души бяха убити при офанзивата, в това число пет дребни деца и майката на обвинения, в една от най-смъртоносните стрелби в историята на Канада.

Гражданският иск, заведен от майката на Гебала Сиа Едмъндс, твърди, че Rootselaar е провел акаунт в ChatGPT, преди да е навършила 18 години – нещо, което потребителите могат да създадат със единодушието на родителите.

Ищците настояват, че на уеб страницата не е осъществена инспекция на възрастта.

Искът твърди, че обвиненият е видял чатбота като „ приближен confidante " и му разказва " разнообразни сюжети, включващи принуждение с оръжие " в продължение на няколко дни в края на пролетта или началото на лятото на 2025 година

Тогава се оповестява, че дванадесет чиновници на OpenAI са маркирали изявленията като " указващи непосреден риск от съществено увреждане на други " и предложиха канадските правоприлагащи органи да бъдат осведомени, делото твърди.

Вместо това се твърди, че настояването за връзка с управляващите е било „ отхвърлено “ и единственото подхванато деяние е било забраняването на акаунта на Rootselaar.

OpenAI по-рано сподели, че не е предизвестил полицията, тъй като акаунтът не дава отговор на условията предел на благонадежден или иден проект за съществено физическо пострадване на други.

Заподозреният е съумял по-късно да отвори втори акаунт в ChatGPT, макар че е бил маркиран от системите OpenAI в предишното, и „ да продължи да възнамерява сюжети, включващи принуждение с оръжие “.

Искът твърди, че компанията " е имала характерни знания за далечното обмисляне на стрелеца за събитие с всеобщи жертви ", само че " не е подхванала никакви стъпки, с цел да предприеме дейности въз основа на това познание ".

Ищците настояват, че вследствие на държанието на компанията, Гебала, който е бил прострелян три пъти, откакто се е опитал да заключи вратата на библиотека, с цел да не излезе стрелецът е претърпял " пагубна мозъчна контузия ".

Отговорът на OpenAI

В изказване за BBC, представител на OpenAI назова събитията " неописуема покруса ", добавяйки, че мислите му остават с жертвите, техните фамилии и общността.

" OpenAI остава зает да работи с държавни и чиновници на правоприлагащите органи, с цел да направи значими промени, които да оказват помощ за попречване на нещастия като тази в бъдеще ", сподели представител.

На 4 март основният изпълнителен шеф на OpenAI, Сам Алтман, виртуално се срещна с министъра на изкуствения разсъдък на Канада Евън Соломон и премиера на Британска Колумбия Дейвид Еби.

Според Wall Street Journal Алтман „ даде обещание да ускори протоколите за известяван на полицията за евентуално нездравословни взаимоотношения “ и да се извини на общността на Tumbler Ridge.

В отворено писмо до канадски чиновници от 26 февруари, написано от вицепрезидента на OpenAI по световната политика и споделено с медиите, компанията сподели, че е внедрила серия от промени през последните месеци, в това число привличане на помощта на „ специалисти по психологично здраве и държание “ за оценка на случаите и преобразяване на критериите за ориентиране към полицията „ още еластичен ".

Поради измененията, OpenAI сподели, че е щял да рапортува ChatGPT акаунта на обвинения според новите насоки.

" Ние се ангажираме да подсилим нашите системи за разкриване, с цел да предотвратим по-добре опитите за отбягване на нашите защитни ограничения и да дадем приоритет на идентифицирането най-рисковите извършители “, написа компанията.

OpenAI сподели, че също по този начин ще откри директна точка за контакт с канадските правоприлагащи органи, с цел да може бързо да маркира всички вероятни бъдещи случаи с „ капацитет за принуждение в действителния свят “.

Канадският министър на ИИ Евън Соломон сподели на 27 февруари, че въпреки законодателите да виждат предпочитание от страна на софтуерната компания да усъвършенства своите протоколи, „ към момента не сме видели обстоен проект за това по какъв начин тези задължения ще бъдат изпълнени на процедура “. Извън Обединеното кралство? Регистрирайте се тук.