Instagram ще разбие сексуалното изнудване на тийнейджъри

Instagram има за цел да затрудни евентуалните измамници и нарушители да принуждават младежи да изпращат голи фотоси и да ги изнудват за пари.

Компанията разгласи в четвъртък, че тества нови функционалности за ограничение на тревожна наклонност, наречена финансов полов изнудване, която постоянно е ориентирана към деца и младежи. След като голите изображения бъдат изпратени, измамниците настояват, че ще ги разгласяват онлайн, или на обществени уеб страници, или на излъчвания с вести, където техните другари ще видят, в случай че жертвите не изпратят пари или карти за подарък.

През идващите седмици и измежду подмножество консуматори, Instagram сподели, че ще вкара разнообразни нови функционалности, като замъгляване на голи изображения, изпратени в директни известия, и информиране на потребителите, когато са взаимодействали с някой, който е взел участие в финансов полов изнудване. Скоро по-късно инструментите ще бъдат налични за всички консуматори по света.

„ Това е в действителност ужасяващо закононарушение, което цели да накара хората да се почувстват сами и засрамени “, сподели пред CNN Антигон Дейвис, шеф по световната сигурност на Meta. „ Беше добре документирано, че престъпността нараства и това е една от аргументите, заради които желаеме да излезем напред и да сме сигурни, че хората са наясно с това, което вършим, до момента в който непрестанно развиваме нашите принадлежности. “

Споделянето на голи изображения без единодушие е проблем от години, нормално измежду хора, които търсят възмездие на жертви, които познават персонално. Но ФБР неотдавна сподели, че е забелязало нарастване на случаите на финансов полов изнудване от непознати, постоянно стартирани от измамници в чужбина. В някои случаи половото изнудване е довело до самоубийство.

Най-новите принадлежности на Meta се основават на съществуващите функционалности за сигурност на Meta, свързани с младежи, в това число строги настройки, които предотвратяват продан на известия сред несвързани сметки, увеличение на известията за сигурност и алтернатива за докладване на DM, които заплашват да споделят или изискват интимни изображения. Миналата година Meta се сплоти с Националния център за изчезнали и експлоатирани деца (NCMEC), с цел да създаде Take It Down, платформа, която разрешава на младежите да основават неповторим дигитален отпечатък за експлицитни изображения, които желаят да бъдат свалени от интернет.

Инструментите също идват, когато Meta, дружно с други обществени мрежи, са изправени пред хиляди непозволени смъртни каузи за това по какъв начин платформите са предизвикали щета на млади консуматори, от улеснение на продажбата на смъртоносни медикаменти до разрешаване на хранителни разстройства и пристрастяване към обществените медии.

Как работят новите инструменти

Мета сподели на CNN, че първо ще тества функционалността си за отбрана на голотата в директните известия на Instagram. Когато бъде изпратена експлицитна фотография, платформата ще замъгли изображението и ще осведоми получателя, че съдържа голота. Сигналът също по този начин ще подсети на потребителите, че не е належащо да дават отговор, и ще ги попита дали желаят да блокират подателя. Ще се появи и уведомление, когато платформата открие, че консуматор желае да изпрати гола фотография, като ги подтиква да преразгледат.

Инструментът ще бъде включен по дифолт за младежи под 18 години, само че възрастните също ще получат уведомление, което ги предизвиква да задействат инструмента.

Компанията сподели на CNN, че технологията на Meta употребява машинно образование на устройството, с цел да дефинира дали дадена фотография съдържа голота. Meta към този момент не разрешава голотата в излъчванията с вести и други обществени зони на своите платформи.

Meta сподели, че също по този начин работи върху способи за идентифициране на сметки, които може да вземат участие в измами със полово изнудване, като открива и следи евентуално държание на полово изнудване. Това включва затрудняване на взаимоотношението с тези сметки, като блокиране на изходящи известия или предупреждаване на консуматори, които може да са взаимодействали с акаунт, който е отстранен за полово изнудване. Съобщението ще ги насочи към подкрепени от специалисти запаси, съгласно компанията.

През ноември Meta се причисли към стратегия, наречена Lantern, ръководена от индустриалната група Tech Coalition, която разрешава на софтуерните компании да споделят информация за сметки и държание, които нарушават сигурността на техните деца. Компанията сподели, че в този момент прибавя интеграция с най-новите си принадлежности за попречване на полово изнудване; да вземем за пример, в случай че връзка произлиза от друга обществена медийна мрежа, преди да бъде споделена в Instagram, другата платформа ще бъде известена.

„ Това, което бих желал да видя реализирано с това известие, е родителите да са по-наясно с това закононарушение и да отделят време, с цел да научат за него “, сподели Дейвис. „ Също по този начин желая да се уверя, че родителите знаят, че е значимо да уведомят децата си, че е добре да дойдат при тях, в случай че нещо се е случило. Те не би трябвало да се срамят да излязат напред и има принадлежности, които могат да оказват помощ. "