Работата на OpenAI с информацията за стрелбата в Tumbler Ridge отваря въпроси относно регулирането

Проучването на това по какъв начин OpenAI е обработвало информацията за всеобщата пукотевица в Tumbler Ridge, Британска Колумбия месеци преди смъртоносната покруса, дава опция на Канада да обмисли контролиране на фирмите за изкуствен интелект да осведомят полицията при сходни сюжети, споделят специалисти.

Компанията зад ChatGPT удостовери предходната седмица, че „ самодейно “ е идентифицирала и забранила акаунт, обвързван с Jesse Van Rootselaar през юни 2025 година за корист с AI chatbot „ за поощряване на насилствени действия “.

Въпреки това, тогава не е уведомил полицията, защото активността не дава отговор на по-високия вътрешен предел на „ непосредствена “ опасност.

OpenAI в последна сметка се свърза с RCMP, откакто полицията сподели, че 18-годишният Ван Rootselaar е умъртвил осем души и е ранил 25 други на 10 февруари преди този момент лишава живота си.

Министърът на изкуствения разсъдък Евън Соломон повика представители в Отава във вторник, с цел да обсъдят обстановката и практиките за сигурност на компанията.

Соломон сподели пред кореспонденти във вторник преди срещата, че „ всички варианти са на масата, когато става въпрос за схващане какво можем да създадем за чатботовете за изкуствен интелект. “

Министърът на наследството Марк Милър, чието министерство работи с Соломон би трябвало да създаде законодателство за онлайн сигурност, което да обгръща платформите за изкуствен интелект, сподели, че държавното управление отделя време, с цел да направи този законопроект вярно и няма да го обвърже със случилото се в Tumbler Ridge.

„ Мисля, че има потребност от законодателство, което да подсигурява, че платформите се държат отговорно “, сподели той. „ Как наподобява това към момента следва да бъде несъмнено и не мога да разисквам с вас периоди по този въпрос.

„ Мисля, че в тази обстановка има законна жадност за по-лесни отговори, само че не мисля, че има лесни отговори в този случай, изключително при намерено следствие. Но… имаме потребност от по-добри отговори от тези, които сме получавали до момента. “

Канадското законодателство за дискретност споделя, че частните компании „ могат “ – не би трябвало – да разкриват персонална информация на управляващите или друга организация, в случай че считат, че има риск от забележителна щета или че закон ще бъде нарушен.

Всяко по-нататъшно взимане на решение зависи от самата компания, което води до вътрешни прагове като „ непосредствената “ опасност на OpenAI идентификация.

„ Това е още един знак, че има риск да позволим на OpenAI и други разработчици на AI да вземат решение сами коя е подобаваща рамка за сигурност, “ сподели Винсент Пакуин, помощник по психиатрия в университета Макгил, който изследва връзката сред цифровите технологии и психологичното здраве на младежите.

„ В последна сметка ChatGPT е комерсиален артикул. Това не е утвърдено устройство за опазване на здравето. И по тази причина е тревожно да се види, че има възходящ брой хора, които се обръщат към ChatGPT и други AI артикули за поддръжка на психологичното здраве и за деликатни полемики по отношение на нещата, които се случват в живота им, без да имат ясно схващане за сигурността на тези взаимоотношения и механизмите за сигурност, които са налице. “

Получавайте изключителни национални вести

Разкритията идват, когато OpenAI и други основатели на AI чатботове са изправени пред голям брой правосъдни каузи в Съединени американски щати по обвинявания, че техните платформи са помогнали на младежите да се самоубият и самонаранят.

OpenAI отхвърля тези обвинявания и споделя, че оценките му за сигурност отхвърлят множеството, в случай че не всички, претенции за нездравословно наличие като омразна и насилствена изразителност и препоръки, в това число мисли за самоубийство.

Wall Street Journal, който първи заяви за предварителното познание на OpenAI за активността на ChatGPT на Van Rootselaar, сподели, че нейните изявления „ разказват сюжети, включващи принуждение с оръжие в продължение на няколко дни “, съгласно хора, осведомени с

В отчета се споделя, че чиновниците на компанията са били разтревожени от изявленията и са се борили дали да предупредят полицията предишното лято, преди компанията да избере да не го прави.

Global News не са ревизирали без значение детайлностите в отчета.

Правителството на Британска Колумбия сподели в изказване в събота, че чиновници на OpenAI са се срещнали с представител на държавното управление на 11 февруари – ден след стрелбата – за „ среща, планувана седмици авансово “, с цел да обсъдят опцията за разкриване на първия канадски офис на OpenAI.

„ OpenAI не е уведомил нито един член на държавното управление, че има евентуални доказателства по отношение на стрелбите в Tumbler Ridge “, сподели държавното управление, само че означи, че OpenAI е поискала информация за контакт с RCMP от провинцията на 12 февруари.

Канадският комисар по поверителността Филип Дюфрен сподели по-рано, че неналичието на канадски бизнес офис, с който да се свърже, го прави по-трудно за неговата организация да проверява софтуерни компании като TikTok.

Брайън Маккуин, доцент в Университета на Реджина и съдиректор на Центъра за изкуствен интелект, данни и спорове, сподели, че софтуерната промишленост като цяло е деприоритизирала вътрешното контролиране на сигурността, откогато Илон Мъск пое Twitter през 2022 година, ребрандирайки го на X.

„ По принцип (след като той) уволни всички екипи, които вършеха този тип работа, другите (социални медии) компании го последваха и осъзнаха, че също могат да се измъкнат ", сподели той. „ Така че по-малко режийни разноски за личния състав и по-малко главоболия, създавани от личния ви личен състав, като ви уведомяват за нещата.

„ Ако не знаете, тогава не можете да носите отговорност. "

Офисът на Дюфрен е почнал следствие на Притежаваният от Мъск xAI и неговият чатбот Grok, който е вграден в платформата за обществени медии X, поради обвинявания, че са улеснили разпространяването на сексуализирани надълбоко подправени изображения без единодушие на дами и деца. Други компании и американски щати организират сходни следствия.

Мъск подлага на критика следствията като опити за задушаване на свободата на словото и изразяването.

Шарън Бауер, юрист по поверителността и пълководец за ръководство на ИИ със седалище в Торонто, сподели, че е значимо всяко бъдещо законодателство или правилник да реализира „ тънък баланс “ сред персоналната цялост и задължението да предизвестява за евентуални закани.

Тя сподели, че терминът „ иден “ е основен.

„ Това е в действителност значим предел, тъй като всичко по-ниско от този предел би означавало, че те ще уведомяват правоприлагащите органи за неща, които в последна сметка могат да жигосат хората или да основат подправени позитивни резултати, което несъмнено би навредило на тези лица “, сподели тя.

В същото време Бауер добави, „ всичко прекомерно високо би означавало липсват същински закани, което може да се е случило в тази обстановка. “

„ Надявам се, че ще получим отговори за това, в случай че са документирали претекстовете си за какво не са се свързали с правоприлагащите органи и това ще бъде в действителност значимо да се проучва и да се разбере дали са взели това вярно решение “, сподели тя.

McQuinn сподели, че също по този начин желае да види данни за това кой е бил изпъден от AI chatbot и обществените медии платформи за закани за пострадване на себе си или на други и дали е имало някакво следене в действителния свят на тези лица.

„ Ако отговорът е не, тогава те просто си забиват главите в пясъка “, сподели той.

„ Тези компании (струват) трилиони долари, тъй че сумата пари, която харчат за всичко, обвързвано с личния състав и сигурността, е незначителна. “

Той добави, че идната тактика на Канада за ИИ се нуждае за съчетаване на стопански изгоди и тактики за осиновяване със постоянни протоколи за сигурност, които дават отговор на тези сериозни въпроси.

Пакуин цитира неотдавнашен закон в Калифорния, който изисква от огромните AI компании като OpenAI да рапортуват на страната за всички случаи на техните платформи, употребявани за евентуално „ пагубни “ действия, като нещо, съгласно което Канада би трябвало да моделира своето лично евентуално контролиране.

Този закон обаче дефинира пагубен риск като нещо, което би предизвикало на минимум 1 милиард $ вреди или повече от 50 пострадвания или смъртни случаи.

Законът беше окуражителен от някои AI компании като Anthropic за балансиране на публичната сигурност с позволяване на непрекъснати „ нововъведения “.

„ Трябва да желаяме повече бистрота и би трябвало също по този начин да помислим за метод за външен контрол върху тези действия, тъй като не можем да позволим на разработчиците на AI да бъдат собствен личен съдник, съдник на личната си сигурност “, Пакуин сподели.

—с файлове от Touria Izri на Global