Генератори на изображения с изкуствен интелект, „използвани от деца за създаване на неприлични изображения“
Организацията за защита на детето каза, че такива изображения – които законно представляват материал за сексуално малтретиране на деца – могат да окажат вредно въздействие върху децата и предупреди, че може също да бъде използвани за злоупотреба или изнудване.
UKSIC призова училищата да гарантират, че техните системи за филтриране и наблюдение са в състояние ефективно да блокират незаконни материали в училищните устройства в опит да се борят с нарастването на такава дейност.
Дейвид Райт, директор на UKSIC, каза: „Сега получаваме доклади от училища за деца, които използват тази технология, за да правят и се опитват да правят неприлични изображения на други деца.
„Тази технология има огромен потенциал за добро, но докладите, които виждаме, не трябва да са изненада.
„Младите хора не винаги осъзнават сериозността на това, което правят, но тези типове вредно поведение трябва да се предвидят когато новите технологии, като AI генераторите, станат по-достъпни за обществеността.
„Ясно видяхме колко разпространени са сексуалният тормоз и онлайн сексуалното насилие от прегледа на Ofsted през 2021 г. и това беше време преди генериращия AI технологии.
„Въпреки че броят на случаите в момента е малък, ние сме в подножието и трябва да видим стъпките, които се предприемат сега, преди училищата да са претоварени и проблемът да се разрасне.
„An увеличаването на престъпното съдържание, което се създава в училищата, е нещо, което никога не искаме да виждаме и трябва спешно да се предприемат интервенции, за да се предотврати по-нататъшното му разпространение.
„Насърчаваме училищата да прегледат своите системи за филтриране и наблюдение и да достигнат за подкрепа при справяне с инциденти и въпроси, свързани със защитата.“
През октомври Фондацията за наблюдение на интернет (IWF), която е част от UKSIC, предупреди, че генерираните от AI изображения на сексуално насилие над деца вече са толкова реалистични, че много биха били неразличими от реални изображения дори за обучени анализатори.
IWF каза, че е открила хиляди такива изображения онлайн.
Изкуственият интелект все повече се превръща в област на фокус в дебат за онлайн безопасността през последната година, по-специално след стартирането на генеративния AI чатбот ChatGPT миналия ноември, с много групи за онлайн безопасност, правителства и експерти от индустрията, призоваващи за по-голямо регулиране на сектора поради опасения, че той се развива по-бързо, отколкото властите могат за да отговорите на него.
