„Обществото трябва да бъде нащрек“: Повечето хора не знаят, че AI се използва за създаване на съдържание за злоупотреба с деца

Има нарастващ брой доклади за генерирани от AI материали за сексуално малтретиране на деца, според благотворителна организация в Обединеното кралство.

Въпреки че мнозинството от хората са загрижени за изкуствения интелект (AI), приблизително 70 процента не знаят, че той вече се използва за създаване на съдържание със сексуално малтретиране на деца, показва ново проучване.

Фондацията Lucy Faithfull, базирана в Обединеното кралство благотворителна организация за защита на детето, анкетира над 2500 души в Обединеното кралство и около 88 процента от анкетираните се съгласиха, че генерираните от AI сексуални изображения на лица под 18 години трябва да бъдат незаконни.

Въпреки това само 40 процента от анкетираните или не знаеха, че това е така, или смятаха, че това съдържание е законно в Обединеното кралство.

В ЕС и Обединеното кралство е незаконно да се създава , преглеждайте или споделяйте сексуални изображения на непълнолетни, включително материал, който е създаден с помощта на AI технология.

Това е начин за сексуализиране на деца. Децата заслужават нашето уважение. Те имат права. Не трябва да потъпкваме правата им и че има последствия за това

Благотворителната организация в Обединеното кралство, която също управлява поверителна услуга за подпомагане на хора, притеснени от мислите и поведението си спрямо деца или поведението на друг възрастен, е вдигане на тревога.

Доналд Финдлейтър, директор на линията за помощ, подчерта, че бързата еволюция на AI вече се използва онлайн от извършители на сексуални престъпления срещу деца всеки ден.

„Всеки ден ни се обаждат от хора, които са арестувани от полицията тук в Обединеното кралство за гледане на сексуална злоупотреба с деца, включително нарастващ брой, които гледат изображения, генерирани от изкуствен интелект“, каза той пред Euronews Next, обяснявайки, че има увеличение на броя на докладите за генерирани от AI материали за сексуално малтретиране на деца през последната година.

„Обществото трябва да бъде нащрек по въпроса“, каза той, тъй като има „сериозни пропуски в знанията сред обществото“ относно това как AI се използва за създават вредно съдържание.

„Не е добре да гледате тези изображения. Това е начин за сексуализиране на децата. Това не е подходящо нещо. Децата заслужават нашето уважение. Те имат права. Не трябва да потъпкваме правата им и че има последствия за това“, добави той, като прикани пряко или косвено засегнатите хора да потърсят помощ.

Повече от 217 000 души са се свързали  през 2023 г. с около 80 процента от те се тревожат за себе си.

Нарастващото явление на сексуално съдържание с изкуствен интелект

Разпространението на генерирани от изкуствен интелект материали за сексуално насилие над деца беше предмет на  публикуван миналата година от Internet Watch Foundation (IWF).

От 11 000 генерирани от AI изображения във форум за сексуално насилие над деца в тъмната мрежа, оценени от анализатори от IWF, повече от 2500 бяха оценени като престъпник.

„Виждаме изображения на AI CSAM [материали за сексуално малтретиране на деца], използващи лицата на известни, реални жертви. Виждаме „остаряването“ на знаменитостите и AI CSAM, използвайки подобие на деца на знаменитости“, каза изпълнителният директор на IWF Сузи Харгрийвс.

„Виждаме как технологията „голи“ деца, чиито облечени изображения са качени онлайн по напълно законни причини. И ние виждаме как цялото това съдържание се комерсиализира.“

Findlater добави, че хората „не трябва да се заблуждават, че няма последствия от това“.

„Където върви технологията, следва злоупотреба. Ние се занимаваме с въздействието на генерираните от изкуствен интелект сексуални образи на деца тук и сега, нагоре и надолу в страната“, каза в изявление Иън Кричли, ръководител на Националния съвет на началниците на полицията (NPCC) за защита на деца и разследване на насилие.

„Създаването, гледането и споделянето на сексуални изображения на деца – включително тези, направени от AI – никога не е жертва и е против закона. И ние ще ви намерим“, добави Кричли.

Полицията на Обединеното кралство извърши 1700 ареста за една година, използвайки онлайн служители под прикритие, но не всички бяха свързани със съдържание, създадено от AI.

AI -генерираното съдържание също създава нови трудности за следователите, когато става въпрос за идентифициране на жертви от виртуални творения, като се съобщава, че правоприлагащите органи се борят с напредъка на AI технологията. показва

Платформите не правят достатъчно

Експертите също така биха искали да видят по-голяма регулация на компаниите за изкуствен интелект и социалните медийни платформи по този въпрос.

Изследователите откриха миналата година повече от заподозряно дете сексуално насилие в набора от данни, създаден от LAION, организация с нестопанска цел, използвана за обучение на генеративния AI инструмент Stable Diffusion.

Няколко седмици преди това Stable Diffusion беше подчертан като „инструмент, предпочитан от производителите на деца изображения на сексуално насилие“, тъй като „на практика не може да попречи на своите модели да генерират изображения, които биха противоречали на условията му за използване“, каза Internet Watch Foundation.

„Бих искал да видя увеличаване на регулацията. Бих искал да видя тези видове инструменти, разработени от компании за изкуствен интелект, които развиват своите технологии, така че да не могат да бъдат злоупотребявани и следователно изображения на сексуално насилие над деца да не могат да бъдат създавани и споделяни“, каза Финдлатер.

X (бивш Twitter) 366 742 евро от Австралия през октомври 2023 г. за това, че не успя да обясни напълно как се справя със съдържанието за сексуална експлоатация на деца.

Съвсем наскоро решението на Meta да въведе криптиране от край до край през декември 2023 г. също беше посрещнато с опасения, че това ще даде сигурно убежище онлайн на малтретиращите деца.

Признавайки, че процесите на откриване са недостатъчни, ЕС реши да удължи временната мярка за борба със съдържание със сексуално малтретиране на деца до 3 април 2026 г. .

Позволява на интернет доставчиците да търсят в услугите си за този тип съдържание и да го докладват на властите.

Последвайте ни в