Социалните медийни сайтове не успяват да спрат разпространението на съдържание за самоубийство, казва благотворителна организация
В TikTok се казва, че някои от най-гледаните публикации, които споменават самоубийство, самонараняване и силно депресивно съдържание, са гледани и харесвани над един милион пъти.
Фондацията е кръстена в чест на Моли Ръсел, която сложи край на живота си на 14 години, след като видя самоубийство и друго вредно съдържание онлайн. Докладът беше публикуван през седмицата, когато Моли щеше да отпразнува своя 21-ви рожден ден.
Миналия септември следовател управлява ученичката Моли от Хароу, северозападен Лондон, почина от „акт на самонараняване, докато страдащи от депресия и отрицателните ефекти на онлайн съдържанието” през ноември 2017 г.
Докладът на благотворителната организация е създаден в партньорство с организацията за данни за добро, The Bright Initiative, и видя, че Фондацията събира и анализира данни от 1181 от най-ангажираните публикации в Instagram и TikTok, които използват добре познати хаштагове за самоубийство, самонараняване и депресия.
Той предупреждава, че вярва, че има ясен и постоянен проблем с лесно достъпните и вредно съдържание, тъй като много от вредните публикации, които анализира, също се препоръчват от алгоритмите на платформата.
Докладът отбелязва, че докато притесненията му относно хаштаговете са фокусирани главно върху Instagram и TikTok, притесненията му относно алгоритмичните препоръки също приложен към Pinterest.
Фондация Моли Роуз заяви, че е загрижена, че дизайнът и работата на социалните медийни платформи рязко повишава рисковия профил за някои млади хора поради лекотата, с която могат да намерят големи количества потенциално вредно съдържание чрез търсене на хаштагове или чрез препоръчано съдържание по подобна тема.
В него се казва, че платформите също така не успяват да оценят адекватно рисковете, породени от функции, които позволяват на потребителите да намират публикации с подобна тематика, и се твърди че търговският натиск увеличава риска, тъй като сайтовете се състезават да грабнат вниманието на по-младите потребители и да ги накарат да превъртат из тяхната емисия.
Иън Ръсел, баща на Моли и председател на попечителите във фондация Моли Роуз, каза: „Тази седмица, когато трябва да празнуваме 21-вия рожден ден на Моли, е тъжно да видим ужасяващия мащаб на онлайн щетите и колко малко са се променили платформите на социалните медии след смъртта на Моли.
„Колкото по-дълго технологичните компании не успяват обърнете внимание на предотвратимите вреди, които причиняват, толкова по-непростимо става. Шест години след смъртта на Моли, сега това трябва да се разглежда като основен системен провал, който ще продължи да струва млади животи.
„Точно както Моли беше поразена от обема на опасното съдържание, което я бомбардира, ние открихме доказателства за алгоритми, изтласкващи вредно съдържание на буквално милиони млади хора.
„Това трябва да спре. Все по-трудно е да се разглеждат действията на технологичните компании като нещо различно от съзнателно комерсиално решение да се позволи на вредното съдържание да достигне астрономически обхват, като същевременно се пренебрегва мизерията, която се монетизира със запазването на вредни публикации и потенциално „наблюдавани“ в техните десетки хиляди.“
Г-н Ръсел добави, че констатациите подчертават колко важен е новият Закон за онлайн безопасността и че новият регулатор на онлайн безопасността Ofcom трябва да бъде „смел“ в начина, по който държи платформите на социалните медии отговорни съгласно нови закони.
„Нашите констатации показват мащаба на предизвикателството пред Ofcom и подчертават необходимостта те да установят смели и амбициозни регулации, които осигуряват по-строги стандарти за безопасност и защитават младите животи“, каза той.
В отговор на доклада министърът на технологиите Мишел Донелан каза, че е „презряно и неоправдано“, че фирмите за социални медии „все още си затварят очите за мащаба на ужасяващото съдържание за самоубийство и самонараняване“.
„Това е една от причините, поради които Законът за онлайн безопасност включва многобройни мерки за защита както на възрастни, така и на деца от такова съдържание“, каза тя.
„Ofcom се консултира относно незаконните задължения за вреди в закона ще въведе, така че компаниите за социални медии да са наясно какво се очаква от тях, което означава, че законите могат да бъдат приложени възможно най-бързо.
„Тези компании не трябва да чакат и вместо това трябва да действат сега, за да гарантират, че не не виждам повече трагични истории като тази на Моли и скоро ще повдигна това директно с тях на среща.“
Говорител на компанията за Meta, която притежава Instagram, каза: „Искаме тийнейджърите да имат безопасни, подходящи за възрастта изживявания в Instagram и работихме в тясно сътрудничество с експерти, за да разработим нашия подход към съдържанието за самоубийство и самонараняване, което има за цел да постигне важния баланс между предотвратяването на хората да виждат чувствително съдържание и същевременно предоставянето на пространство на хората да говорят за собствените си преживявания и намерете поддръжка.
„Ние създадохме повече от 30 инструмента за подкрепа на тийнейджъри и семейства, включително нашия контрол на чувствителното съдържание, който ограничава типа съдържание, което се препоръчва на тийнейджъри.
“ Продължаваме да търсим повече начини, по които можем да помогнем на тийнейджърите да имат онлайн преживявания, подходящи за възрастта им, и ще обявим по-нататъшни разработки, предназначени да направят още по-трудно за тийнейджърите да откриват потенциално чувствително съдържание скоро.“
Говорител на Pinterest каза : „Pinterest се ангажира да създаде безопасна платформа за всички.
„Ние непрекъснато актуализираме нашите политики и практики за прилагане относно съдържание за самонараняване, включително блокиране на чувствителни думи за търсене и развитие на нашите модели за машинно обучение, така че това съдържанието се открива и премахва възможно най-бързо.“
Говорител на TikTok каза: „Съдържание, което насърчава самонараняване или самоубийство, е забранено в TikTok и, както се подчертава в доклада, ние стриктно прилагаме тези правила, като премахваме 98% от самоубийствено съдържание, преди да ни бъде докладвано.
„Ние непрекъснато инвестираме в начини за разнообразяване на препоръките, блокиране на вредни думи за търсене и предоставяне на достъп до Samaritans за всеки, който се нуждае от подкрепа.“
