Деца и тийнейджъри под 18 години не трябва да използват приложения за придружители на AI, групата за безопасност казва

Приложенията за изкуствен интелект, сходни на компаньон, съставляват „ неприемливи опасности “ за деца и младежи, се споделя в отчет в сряда, оповестен в сряда.

Видовете диалози, в детайли разказани в делото-като полови обмени и известия, насърчаващи самонараняването-не са особеност на AI придружителните платформи, съгласно отчета на сряда, който твърди, че такива приложения не би трябвало да бъдат налични за потребителите на възраст под 18 години.

За отчета Common Sense Media работи с откривателите на университета в Станфорд, с цел да тества три известни AI Companion Services: Niver.ai, Replika и Nomi.

Докато всеобщите AI чатботи като Chatgpt са проектирани да бъдат по-общи, по този начин наречените придружителни приложения разрешават на потребителите да основават персонализирани чатботи или да взаимодействат с чатботите, проектирани от други консуматори. Тези персонализирани чатботи могат да одобряват редица персони и черти на личността и постоянно имат по -малко парапети към това по какъв начин могат да приказват с потребителите. Nomi, да вземем за пример, популяризира опцията да има „ нефилтрирани чатове “ с AI сантиментални сътрудници.

„ Нашето тестване сподели тези системи елементарно дават нездравословни отговори, в това число полови нарушавания, стандарти и опасни„ препоръки “, които, в случай че се следват, биха могли да имат животозастрашаващо или смъртоносно влияние в действителния свят за младежи и други уязвими хора “, споделя в изказване Джеймс Стейер, създател и изпълнителен шеф на Common Sense Media. Медиите за здрави разсъдък обезпечават възрастови рейтинги, с цел да посъветват родителите за целесъобразността на разнообразни типове медии, от филми до платформи за обществени медии.

Докладът идва, защото AI инструментите получиха известност през последните години и от ден на ден се включват в обществените медии и други софтуерни платформи. Но също по този начин нараства надзор върху евентуалните въздействия на ИИ върху младежите, като специалистите и родителите се отнасят, че младите консуматори могат да образуват евентуално нездравословни привързаности към AI знаци или да имат достъп до наличие, подложено на възрастта.

Nomi и Replika споделят, че техните платформи са единствено за възрастни, а характерът. Но откривателите споделят, че фирмите би трябвало да създадат повече, с цел да предпазят децата от своите платформи или да ги предпазят от достъп до неуместно наличие.

Натиск за по -безопасни AI чатботи

Миналата седмица The Wall Street Journal заяви, че AI чатботите на Meta могат да вземат участие в диалози за полова ролева игра, в това число с незначителни консуматори. Meta назова дневника констатациите „ създадени “, само че стеснен достъп до такива диалози за незначителни консуматори след отчета.

Вследствие на правосъдния развой против характера. Лука, производител на имитация на услугите за чатбот; и Chai Research Corp., производител на Chai Chatbot.

Калифорнийските законодатели също предложиха законодателство по -рано тази година, което ще изисква услугите на AI да припомнят от време на време на младите консуматори, че беседват с AI темперамент, а не с човек.

Но отчетът в сряда върви крачка напред, като предлага родителите да не разрешават на децата си да употребяват приложения за придружители на AI.

Replika не отговори на настояванията за коментар по отчета.

„ Ние се грижим надълбоко за сигурността на нашите консуматори. Нашите контроли не са съвършени - не са AI платформи - само че те непрекъснато се усъвършенстват “, съобщи представителят на характера. „ Факт е също, че тийнейджърските консуматори на платформи като нашата употребяват AI по необикновено позитивни начини… Надяваме се, че здравият разсъдък приказва с действителните консуматори на младежи на характера. За техния отчет, с цел да схванат и тяхната позиция. “

Nearch.ai направи няколко актуализации през последните месеци, с цел да се оправи с опасенията за сигурността, в това число прибавянето на изскачащи консуматори, насочващи потребителите към националната избавителна линия за попречване на самоубийства, когато се загатва самонараняване или самоубийство.

Компанията също по този начин пусна нова технология, ориентирана към попречване на младежите да виждат сензитивно наличие и дава опция на родителите да получават седмичен имейл за интензивността на младежа си на уеб страницата, в това число време на екрана и героите, с които детето им приказва най -често.

Алекс Кардинел, изпълнителен шеф на Glimpse AI, компанията зад Nomi, се съгласи, че „ децата не би трябвало да употребяват Nomi или друго разговорно приложение за AI “.

„ Nomi е приложение единствено за възрастни и е строго против нашите условия за обслужване на всеки под 18 години да употребява Nomi “, сподели Кардинел. „ Съответно, ние поддържаме по -силна възраст, стига тези механизми да поддържат поверителността и анонимността на потребителите. “

Cardinell добави, че компанията поема „ отговорността да сътвори доста съществено AI Companions “ и сподели, че възрастните консуматори са споделили истории за намиране на смислена поддръжка от NOMI; Например, да се преодолеят провокациите пред психологичното здраве.

Все отново младежите елементарно биха могли да заобиколят ограниченията за сигурност на младежките компании, като се записват с подправена дата за раждане, обявиха откривателите. Решението на характера.

" Ние се провалихме на децата, когато става въпрос за обществените медии ", сподели Васан при повикване с кореспонденти. „ Отне прекалено много време за нас като поле, с цел да се оправим в действителност с тези (рискове) на равнището, което те трябваше да бъдат. И не можем да позволим това да се повтори с AI. “

Подробности за отчета AI компаньон на рисковете за безопасност