Защо отвратителен видеоклип в YouTube на предполагаема обезглавена глава беше оставен онлайн с часове?

Бележка на редактора: Тази история включва графични описания, които някои читатели може да сметнат за смущаващи.

Смущаващо видео на мъж, държащ, както той твърди, обезглавената глава на татко му, се популяризира с часове в YouTube. Той беше гледан повече от 5000 пъти, преди да бъде свален.

Инцидентът е един от безбройните образци за злокобно и постоянно ужасяващо наличие, което циркулира в обществените медии без филтър. Миналата седмица генерираните от AI нецензурен изображения на Тейлър Суифт бяха гледани милиони пъти на X – и сходни видеоклипове от ден на ден се появяват онлайн, включващи малолетни и несъгласни дами. Някои хора са предавали онлайн убийства във Фейсбук.

Ужасяващото видео с обезглавяване беше оповестено часове преди огромните софтуерни изпълнителни шефове да се насочат към Капитолия за чуване по отношение на сигурността на децата и обществените медии. Сундар Пичай, основният изпълнителен шеф на Alphabet, майка на YouTube, не е измежду тези основни изпълнителни шефове.

В изказване YouTube сподели: „ YouTube има строги политики, забраняващи графично принуждение и принудителен екстремизъм. Видеото беше отстранено заради нарушение на нашата политика за графично принуждение и каналът на Justin Mohn беше преустановен в сходство с нашите политики за принудителен екстремизъм. Нашите екипи деликатно наблюдават, с цел да отстранен всяко наново качване на видеоклипа.

Но онлайн платформите срещат компликации да се оправят. И те не си вършат услуга, като разчитат на логаритми и външни екипи за модериране на наличие, а не на чиновници, които могат да разработят по-добри тактики за справяне с казуса.

През 2022 година X елиминира екипи, фокусирани върху проблемите на сигурността, публичната политика и човешките права, откакто Илон Мъск пое ръководството. В началото на предходната година Twitch, платформа за стрийминг онлайн, благосъстоятелност на Amazon, уволни някои чиновници, фокусирани върху виновен AI и друга работа по доверие и сигурност, съгласно някогашни чиновници и обществени изявления в обществените медии. Microsoft съкрати основен екип, фокусиран върху етичното създаване на AI артикули. А компанията-майка на Фейсбук, Meta, редуцира личен състав, работещ на нетехнически длъжности, като част от последния кръг от съкращения.

Критиците постоянно упрекват платформите на обществените медии, че не влагат в сигурност, когато сходни смущаващи видеоклипове и изявления, цялостни с дезинформация, остават онлайн прекомерно дълго – и се популяризират в други платформи.

„ Платформи като YouTube не са вложили съвсем задоволително в своите екипи за доверие и безопасност – в съпоставяне, да вземем за пример, с това, което са вложили в продажбите на реклами – тъй че тези видеоклипове прекомерно постоянно лишават прекалено много време, с цел да се смъкват “, сподели Джош Голин, изпълнителен шеф на Fair Play for Kids, която работи за отбрана на децата онлайн.

Но това е единствено част от казуса, сподели той. Алгоритмите, които зареждат тези платформи, се концентрират върху видеоклипове, които притеглят доста внимание под формата на споделяния и лайкове. Това усложнява казуса за видеоклипове като тези.

„ Дори когато софтуерните компании имат практики за обозначаване на принудително наличие, те не са в положение да го модерират и отстранен задоволително бързо и неприятната действителност е, че децата и младежите към момента ги виждат, преди да бъдат свалени “, сподели Джеймс Стайер, създател и основен изпълнителен шеф на Common Sense Media.

Щайер добави, че размерът от видеоклипове, които се нуждаят от модериране, е голям за YouTube и други платформи – или заради качества, или заради воля. Той означи, че травматизиращите изображения могат да имат дълготраен резултат върху психологичното здраве и благоденствие на децата.

Но до неотдавна софтуерните компании не са получавали тласъци да премислят своите вложения в модериране на наличие. Въпреки обещанията на законодателите и регулаторите, Big Tech значително е оставен на мира – даже когато бранителите на потребителите споделят, че обществените медии излагат младите консуматори на риск от всичко - от меланхолия до тормоз до полово принуждение.

Когато технологиите са работили, с цел да овладеят нездравословното наличие на своите платформи, им е мъчно да се оправят: Репутацията им въобще не се е подобрила – тъкмо противоположното.

Очаква се софтуерните компании да популяризират принадлежности и политики за отбрана на децата и да дадат на родителите по-голям надзор върху онлайн прекарванията на децата си, изправени пред скара в сряда преди Конгреса. Родители и групи за отбрана на онлайн сигурността обаче споделят, че доста от инструментите, пуснати от платформите на обществените медии, не стигат задоволително надалеч, тъй като значително оставят работата по отбраната на младежите на родителите, а в някои случаи и на самите млади консуматори. Защитниците споделят, че софтуерните платформи към този момент не могат да бъдат оставяни да се саморегулират.

Клеър Дъфи и Браян Фънг от CNN способстваха за този отчет.