Гигантският хит на социалните медии с плачевна рекламна кампания сред гняв заради AI чатботи сексуално експлоатация на деца

Коалиция за родители с нестопанска цел приканва голям брой комитети на конгреса да стартират следствие на метаолози за приоритизиране на ангажираността (apc, които излагат сигурността на децата в риск. Четвъртък. It includes a letter to lawmakers with calls for investigations, a new parental notification system to help parents stay informed on issues impacting their kids at Meta and beyond, and mobile billboards at Meta D.C. and California headquarters, calling out the company for failure to adequately prioritize protecting children.

APC's campaign follows an April Wall Street Journal report that included an investigation looking into how the company's metrics focus has led to potential harms for Деца.

" Това не е първият мета, когато мета е бил заловен да дава технологии разполагаем на децата, които ги излагат на неуместно наличие ", съобщи изпълнителният шеф на APC Алиъжи Марре. „ Родителите в Америка би трябвало да бъдат извънредно внимателни от онлайн активността на децата си, изключително когато включва зараждаща технология като AI Digital Companions. Този модел на неприятно държание от META демонстрира, че не могат да се имат вяра на самокоректиране и ние призоваваме Конгреса да предприеме смислени дейности за ръководство на мета, с цел да не бъде приоритизиращ сигурността на децата. “

PIRETURED е мобилен баланс, който е показан в Meta Ceumatterters в Menlo Park, Калифорния е показан в Meta. Като част от акцията за офанзива на обединението на американската родителска коалиция се започва против софтуерната компания в четвъртък. (Коалиция на американските родители)

Разследването на Април Уолстрийт Списание освен оповестява за вътрешни терзания, че META е прескачащ етични линии, с цел да направи системата си AI по -напреднала, само че и споделя по какъв начин създателите на отчета са тествали на системата. Ескалирани полови полемики - даже когато чатботът знаеше, че потребителят е малолетен. Разследването откри, че AI чатботът може също да бъде програмиран да симулира личност на малолетна, до момента в който се ангажира с крайния консуматор в полово експлицитен диалог. 

В някои случаи тестовите диалози съумяха да накарат чатбота на Meta да приказва за сантиментални срещи в гласа на героите на кино лентата на Дисни.

В някои случаи тестовите диалози съумяха да получат чата на Meta, с цел да приказват за сантиментални срещи в гласовете на филмовите герои на Дисни. В това писмо не отразява по какъв начин хората в действителност изпитват тези AI, които за младежите постоянно са по скъпи способи, като да вземем за пример да оказват помощ в домашните работи и да научат нови умения “, съобщи представител на META пред Fox News Digital в отговор на акцията. „ Ние признаваме терзанията на родителите по отношение на новите технологии, заради което ние поставихме спомагателни подреждания, подобаващи за възрастта, които разрешават на родителите да видят дали техните младежи са разговаряли с AIS, и да слагат времеви ограничавания на нашите приложения. Важното е, че не разрешаваме на AIS да показва на AIS, като се показва за полови диалози с младежи. “

В същото време META предприе стъпки, с цел да помогне за възстановяване на сигурността на продуктите за малолетните консуматори, като въвеждането на „ тийнейджърски сметки “ на Instagram с вградени защитни отбрани, които се появиха през 2024 година на фона на увеличените инспекции на компанията. 

През април Meta разгласи разширението на тези сметки във Фейсбук и Messenger. По отношение на тези сметки, малолетните е неразрешено да диалозите за полово категорично наличие с чатботи.

Meta също има принадлежности за наставнически контрол, вградени в неговата AI чатбот система, които би трябвало да демонстрират на родителите, с които децата им приказват постоянно, в това число чатбот и има принадлежности за затваряне на сметки, показващи евентуални държания, които са в положение на детски полови употреби. Кампания, атакуваща META, групата започва нов уеб страница, озаглавен „ Dangersofmeta.com “ с връзки към писмото на APC до членовете на Конгреса, изображения на мобилните билбордове, които те разпростират, връзка към новата система за известяван на „ Lookout “ и последните публикации за работата на META, отнасяща се до сигурността на децата.