Австралия налага ограничения върху сайтовете за „nudify“, използвани за генерирано от AI малтретиране на деца

Потребителите на интернет в Австралия са блокирани от достъп до няколко уеб страницата, които употребяват изкуствен интелект за основаване на материали за полова употреба на деца, разгласи интернет регулаторът на страната.

Трите уеб страницата за „ nudify “ се изтеглиха от Австралия след публично предизвестие, сподели комисарят по електронната сигурност Джули Инман Грант на Четвъртък.

Препоръчани истории

Офисът на Грант сподели, че уеб страниците са получавали почти 100 000 визити на месец от австралийци и са включени във високопоставени случаи на генерирани от AI изображения на полово принуждение над деца, включващи австралийски възпитаници.

Грант сподели, че такива услуги за „ обнаждане “, които разрешават на потребителите да вършат изображения на действителни хора наподобяват голи, употребявайки AI, са имали „ унищожителен “ резултат в австралийските учебни заведения.

„ Предприехме насилствени ограничения през септември, тъй като този снабдител не съумя да вкара защитни ограничения, с цел да предотврати потреблението на услугите му за основаване на материали за полова употреба на деца и даже бяха маркетингови функционалности като събличане на „ всяко момиче “ и с варианти за генериране на изображение на „ ученичка “ и функционалности като „ полов режим “, сподели Гранд в изказване.

Разработката идва, откакто офисът на Грант издаде публично предизвестие към основаната в Обединеното кралство компания, която стои зад уеб страниците през септември, заплашвайки цивилен наказания до 49,5 милиона австралийски $ ($32,2 милиона), в случай че не вкара защитни ограничения за попречване на корист, основана на изображения.

Грант сподели, че Hugging Face, хостинг платформа за AI модели, настрана също е подхванала стъпки за съблюдаване на австралийското законодателство, в това число смяна на изискванията на услугата, с цел да изисква притежателите на сметки да подхващат стъпки за минимизиране на рисковете от корист с техните платформи.

Австралия е в челните редици на световните старания за попречване на онлайн вреди на деца, като не разрешава обществените медии за лица под 16 години и подхваща ограничения против приложенията, употребявани за гонене и основаване на дълбоки подправени изображения.

Използването на AI за основаване на полово очевидни изображения без единодушие е възходящо безпокойствие на фона на бързия разпространяването на платформи, способни да основават фотореалистични материали с едно тракване на мишката.

В изследване, извършено от основаната в Съединени американски щати група за покровителство Thorn предходната година, 10 % от респондентите на възраст 13-20 оповестяват, че познават някой, който е имал дълбоки подправени голи изображения, основани от тях, до момента в който 6 % споделят, че са били директна жертва на такава корист.