Регулаторът на Обединеното кралство заплашва технологичните гиганти с одити на алгоритми за защита на децата

Технологичните компании ще бъдат подложени на одити на логаритмите на обществените медии, употребявани за разпространение на това, което децата могат да видят в техните излъчвания, в идната фаза на репресиите според Закона за онлайн сигурност на Обединеното кралство.

В изявление за Financial Times шефът на Ofcom Мелани Доус предизвести фирмите за обществени медии, че ще бъдат изправени пред насилствени дейности, в случай че не могат да потвърдят че техните логаритми стопират хората под 18-годишна възраст да виждат нездравословно наличие.

Тя също по този начин разкри, че английският медиен регулатор е провел диалози с американски софтуерни групи за това по какъв начин новите AI модели попадат в Закона за онлайн сигурността, като Ofcom желае да бъде вградена инспекция на възрастта, тъй че децата да не могат да бъдат изложени на нездравословно или порнографско наличие от чатботове или генеративни AI принадлежности.

Ofcom стартира да постанова поредност от строги нови държавни ограничавания, въведени от Закона за онлайн сигурност през юли, в това число условие всяка софтуерна обществена медийна платформа, съдържаща материали за възрастни, да спре достъпа на деца до тях.

Доус сподели, че актът работи, като главните обществени медии и уеб страници за възрастни са въвели инспекция на възрастта. Повече от 12 високорискови уеб страницата са блокирани или към този момент не са налични в Обединеното кралство, в това число два форума за самоубийства и минимум пет нецензурен уеб страницата. Ofcom наложи и първата си санкция за неспазване на основаното на изображения табло за разгласи 4Chan в Съединени американски щати.

Доус сподели, че Ofcom в този момент ще ускори напъните си, с цел да ги „ принуди към нещата, които не са толкоз склонни да вършат “.

Модерирането на наличието на алгоритмично ръководени излъчвания и рекомендации за уеб сайтове като YouTube, Roblox и Фейсбук ще бъдат тествани за наличие за възрастни, сподели тя.

" Променили ли са метода, по който работят логаритмите, тъй че децата да не получават този материал, който им се демонстрира? Това е огромен фокус за нас ", сподели тя. „ [Има ли] отбрана против корист, тъй че детските излъчвания да одобряват единствено детски профили и да не могат да бъдат изпращани непосредствено от хора, които не познават? “

Като част от тази работа Ofcom може да подреди на софтуерните уеб сайтове да създадат „ алгоритмичен одит “ на тези излъчвания. „ Може да видите някои насилствени дейности от нас през идващите няколко месеца, в случай че не стартираме да получаваме отговорите, които търсим от алгоритмичната страна на нещата “, добави Доус.

Тя сподели, че актът е видял „ добър ранен прогрес, само че следва доста, доста, доста дълъг път ...  Опитваме се да обърнем няколко десетилетия, когато интернет е стар blind ”.

Доус неотдавна посети компании в Калифорния, с цел да приказва за разпоредбите, в това число по какъв начин те се отнасят към разработваните AI платформи. Вече има случаи, в които чат ботове с изкуствен интелект са давали проблематични отговори, до момента в който генеративният изкуствен интелект в този момент се употребява за основаване на порнографско наличие. 

„ [Пътуването в САЩ] даде да се разбере безусловно ясно, че — според OSA — новите услуги би трябвало да бъдат вярно оценени на риска, в това число AI “, сподели тя.

Доус сподели, че Ofcom към този момент е имал връзки с OpenAI, които са се съгласили, че ChatGPT попада в обсега на закона. Когато беше подбуден към Grok на X, Доус сподели, че „ X е услуга, която ние контролираме, а чатботовете постоянно ще бъдат услуги от консуматор към консуматор и затова ще бъдат хванати в закононарушение “.

Тя добави: „ Една от характерностите на генеративния AI е, че не постоянно е допустимо да се предскаже какво ще направи и какво ще каже и по тази причина сигурността би трябвало да се преглежда авансово. Индустрията не разбра това вярно Преди 20 години, когато обществените медии бяха пуснати за първи път. “

Ofcom беше цел за десни лобистки групи от Съединени американски щати, както и за републикански политици поради това, което считат за опасност за свободата на словото в закона.

Републикански политици, в това число сенатор Скот Фицджералд и конгресмен Джим Джордан, упрекнаха Закона за онлайн сигурността като „ закон за цензурата “ и тематиката беше повдигната в търговията сред Съединени американски щати и Обединеното кралство договаряния.

Доус отхвърли да разяснява обява в обществените медии тази седмица от американския милиардер Илон Мъск, че „ гражданската война във Англия е неизбежна “. Неговата платформа X сподели, че Законът за онлайн сигурност рискува „ съществено да наруши “ свободата на словото.

Доус удостовери, че Ofcom се е срещнал с правосъдната комисия на Камарата на представителите през юли, заявявайки, че органите вземат участие в „ цивилен и градивен разговор “. Тя добави, че - както в Обединеното кралство, където мотивацията за отбрана на децата съгласно закона остава известна - във Вашингтон " има доста поддръжка за отбраната на децата онлайн ".

Тя сподели: " Ние сме тук, с цел да предоставим на английската общност. В тази страна има доста социална поддръжка за измененията, които се опитваме да изпълним. Ако не друго, хората желаят от нас да създадем повече и по-бързо. "

Трафикът към порно уеб страниците е намалял с към една трета в Обединеното кралство, откогато ограниченията за гарантиране на възрастта бяха въведени през юли. По-големите порногрупи обаче предизвестиха, че потребителите на интернет се насочват към по-малките, по-малко скрупулни уеб страници, които са пренебрегнали закона.

Доус призна, че „ явно има някои уеб сайтове, които не са го спазили, и за някои от тях бизнесът им се разраства вследствие на това “, само че сподели, че „ ние си проправяме път към използването “.

Ofcom сега има 69 следствия на уеб страници, които не дават отговор на условията правила, само че това е дребна част от десетките хиляди уеб сайтове за пълнолетни.

Доус сподели, че потреблението на виртуални частни мрежи за заобикаляне на ограниченията за гарантиране на възрастта - като наподобява, че потребителят има достъп до интернет отвън Обединеното кралство - в началото се е удвоило до към 1,5 милиона, само че от този момент е спаднало до към 1 милион.

Тя сподели, че уеб страниците за възрастни не са съобщили за скок в потреблението на VPN, само че че Ofcom ще работи, с цел да разбере дали децата употребяват VPN.