Законопроектът за изкуствен интелект на федералните власти е добра „първа стъпка“, но защитниците на безопасността казват, че е необходима още работа

Предложеното от федералното държавно управление законодателство за онлайн сигурност е положително начало за контролиране на чатботовете с изкуствен интелект – само че ще е нужна още работа, с цел да се защитят канадците от техните евентуални вреди, споделят двама бранители.

Законопроект C-34, импортиран по-рано този месец в Камарата на общините, ще контролира фирмите зад чатботове с изкуствен интелект посредством налагайки им обвързване да работят „ отговорно “.

Той включва ограничения за понижаване на риска от чатботове, предаващи нездравословно наличие, и ще вкара протоколи за спешна интервенция за случаи, включващи самонараняване, самоубийство или принуждение.

Wyatt Tessari L’Allié, създател на Artificial Intelligence Governance and Safety Canada, сподели, че успеваемостта на законопроекта зависи от по какъв начин се създават детайлите.

„ Важна първа стъпка е, в случай че законопроектът е добре формиран и наредбите са добре приложени “, сподели Тесари L’Allié в скорошно изявление.

Например, той сподели, че платформите с изкуствен интелект би трябвало да бъдат принудени да разпознават признаците на психологично здраве на потребителя или мисли за самоубийство, да го насочат към запаси и да прекратят диалога, с цел да предотвратят всякаква щета.

Б. Професорът по компютърни науки Кевин Лейтън-Браун сподели, че Отава също ще би трябвало да отиде по-далеч, с цел да се оправи с метода, по който чатботовете се пробват да угодят на потребителите с отговорите си.

„ Те са склонни да удостоверяват каквото споделя потребителят. Те са построени по този метод, тъй като хората харесват подлизурско държание “, сподели Лейтън-Браун, който е ръководител на AI в Канадския институт за напреднали проучвания.

„ Но има някои хора за които този тип укрепване може да бъде в действителност рисково, като хората, страдащи от заблуди. ”

Получавайте изключителни национални вести

Законопроектът включва основаването на нова цифрова сигурност регулатор, който, в случай че законодателството бъде утвърдено, се чака да отнеме 18 месеца за основаване.

Усилията на Отава да контролира чатботовете идват, когато една майка от Ню Брънзуик се надява да потърси отговорност от OpenAI за гибелта на щерка си от самоубийство.

Кристи Кериър, която заведе дело против OpenAI и неговия притежател Сам Алтман във Върховния съд на Калифорния в Сан Франциско по-рано този месец, сподели правдивост за щерка си Изглежда, че Алис употребява историята си, с цел да сътвори „ значима смяна “.

„ Изглежда, че някой ден, в случай че бъда блажен с внуци, няма да се тормозя, че ще попаднат в същата заешка дупка “, сподели Кариър пред The Canadian Press в скорошно изявление.

Кериер желае от съда да принуди OpenAI да ползва „ сложни прекъсвания “ за диалози за самонараняване и да се подчини на самостоятелни одити за сигурност.

Някои от диалозите на Алис с ChatGPT са включени в делото. В исковата молба се твърди, че откакто чатботът в началото я е насочил да потърси помощ, до момента в който е говорила за самоубийство, по-късно е затвърдил евентуално нездравословни възгледи и я е тласнал в изолираност.

В делото се твърди, че моделът с огромен език в един миг е повторил съпротивата на Алис против линиите за помощ и е споделил, че те могат да се „ усещат напряко рискови “ и тя заслужава „ същинска, нежна поддръжка “, съгласно екранни фотоси в дело.

Повече от година откакто за първи път повдигна мисли за самоубийство на AI бота, Алис умря от самоубийство в Монреал през юли 2025 година

Твърденията не са тествани в съда и OpenAI не е дала отговор на голям брой претенции за коментар.

Tessari L’Allié сподели, че правосъдни каузи като сигнала на Carrier до фирмите там ще да бъде „ цена за заплащане “, в случай че защитните парапети не са сложени на техните платформи. Той сподели, че те също оказват напън върху законодателите да обезпечат контрол, който може да предотврати смъртни случаи, сходни на тези на Алис.

„ Ако тези разпореждания бяха налице, евентуално щяха да спасят доста животи и евентуално нейния “, сподели Тесари Л’Алие.

На въпроса дали законодателството за онлайн сигурност може да предотврати смъртни случаи като тази на Алис, федералният отдел по просвета сподели, че не може да разяснява въпросите пред Съдилища.

Въпреки това, министерството сподели, че държавното управление, посредством законодателството, „ се ангажира да подсигурява, че канадците са безвредни онлайн и че цифровите платформи разполагат с подобаващи защитни ограничения на място, когато зародят действителни опасности от увреждане. “

Въпреки че регулаторите и AI платформите може да са в положение да отговорят на опасенията по отношение на насърчаването на самонараняване, Лейтън-Браун сподели, че се тревожи за по-широкия проблем с образуването на хора привързаности към изкуствения разсъдък.

„ Ако имате това, което ви се коства като същинска, уязвима човешка връзка с част от компютърен код, който е построен от някаква огромна, безлична корпорация, която в действителност няма вашите ползи драговолно, това може просто да бъде рисково по толкоз доста разнообразни способи “, сподели той.

„ И мисля, че нашето общество в действителност би трябвало да обмисли това деликатно, с цел да е несъмнено, че няма да се окажем в хубава обстановка неприятно място. “

— С файлове от Anja Karadeglija.