FTC разследване на AI „придружител“ чатботи на фона на нарастващата загриженост за вредата на децата

Вижте всички тематики Връзка копирана! Следвайте

  Помощта е разполагаем, в случай че вие или някой, който познавате, се борите със самоубийствени мисли или въпроси за психологичното здраве. В Съединени американски щати: Обадете се или текст 988, избавителната линия на самоубийството и рецесията. В международен мащаб: Международната асоциация за попречване на самоубийства и приятелю на международен мащаб има информация за контакт за спешни центрове.

Разследването идва на фона на възходящата угриженост към потреблението на AI от деца и младежи, след поредност от правосъдни каузи и отчети, обвиняващи чатботи, че са съучастници в гибелта на самоубийствата, половата употреба и други вреди за младежите. Това включва едно правосъдно дело против Openai и две против характера.ai, които не престават, даже когато фирмите споделят, че не престават да построяват спомагателни функционалности, с цел да защитят потребителите от нездравословни взаимоотношения с техните ботове.

Появиха се и по -широки опасения, че даже възрастни консуматори построяват нездравословни прочувствени привързаности към AI чатботите, частично тъй като инструментите постоянно са проектирани да бъдат съгласни и подкрепящи.

По -специално, поръчките на FTC търсят информация за това по какъв начин фирмите обезпечават доходи от ангажираност на потребителите, генерират резултати в отговор на запитвания на потребителите, създават и утвърждават AI знаци, употребяват или споделят персонална информация, получени посредством диалози на потребителите и смекчават негативните въздействия върху децата, наред с други детайлности.

Гугъл, Snap и XAI не дадоха отговор незабавно на претенции за коментар.

„ Нашият приоритет е да създадем Chatgpt потребен и безвреден за всички и ние знаем, че сигурността е на първо място, когато вземат участие младежи. Ние признаваме, че FTC има отворени въпроси и терзания, и ние се ангажираме да ангажираме градивно и да отговаряме на тях непосредствено “, съобщи представителят на Openai Лиз Бургеа в изказване. Тя добави, че OpenAI има защитни ограничения като вести, насочващи потребителите към спешни линии и възнамерява да разгърне родителския надзор за незначителни консуматори.

След като родителите на 16-годишния Адам Рейн подадоха иск против Openai предишния месец, в който се твърди, че Chatgpt предизвиква гибелта на сина им посредством самоубийство, компанията призна, че защитните й ограничения могат да бъдат „ по-малко надеждни “, когато потребителите вземат участие в дълги диалози с чатботите и обявиха, че работи с специалисти, с цел да ги усъвършенства.

„ Очакваме с неспокойствие да си сътрудничим с FTC освен това питане и да предоставим визия за потребителската AI промишленост и бързо разрастващата се технология на пространството “, споделя в изказване Джери Руоти, началник на доверието и сигурността на характера. Той добави, че компанията е вложила в запаси за доверие и сигурност, като ново прекарване под 18 години в платформата, инструмент за наставнически прозрения и отвод от отговорност, напомнящ на потребителите, че беседват с AI.