Регулаторът на САЩ стартира запитване на AI „спътници“, използвани от тийнейджърите
Федералната комисия по търговия на Съединени американски щати разпореди водещите компании за изкуствен интелект да предадат информация за чатботите, които обезпечават „ приятелство “, които са под усилване на контрола след случаи, свързани с самоубийства и съществени вреди на младите консуматори.
Openai, Meta, Гугъл и XAI на Elon Musk са измежду софтуерните групи, наранени от настояванията за откриване за това по какъв начин работят на известни чатботи и смекчават вредата на потребителите. Nearch.ai и Snap, които насочват услугите си към по-млада публика, също са част от запитването.
ходът на регулатора следва произшествия с високи профили, в които се твърди, че вредата на тийнейджърките на чатботите. Миналия месец Openai беше съден от фамилията на 16-годишния Адам Рейн, който умря от самоубийство, откакто разиска способи с Chatgpt.
Character.ai is also being sued by a mother who claims the platform, which offers different AI personas to interact with, had a role in the suicide of her son.
The FTC on Thursday said: “AI chatbots can effectively mimic human characteristics, emotions and intentions, and generally are designed to communicate like a friend or confidant, which may prompt some users, especially children and teens, to trust and form relationships С чатботите. ”
Действието на FTC идва, защото американските законодатели и държавните юристи също започнаха запитвания и показаха угриженост за въздействието на Chatbots върху младите хора-особено към психологичното здраве и половото съдържание-оказващ напън върху софтуерните компании.
Агенцията търси информация за това по какъв начин работят чатботите на компаниите; Как развиват герои или персони и по какъв начин печелят пари от ангажираността на потребителите. ; И Гугъл отхвърли коментар. Snap, XAI и NARICE.AI не дадоха отговор незабавно на претенции за коментар.
Openai съобщи, че е зает да „ ангажира градивно и да дава отговор непосредствено на FTC. „ Нашият приоритет е да създадем Chatgpt потребен и безвреден за всички и ние знаем, че сигурността има значение на първо място, когато вземат участие младежи “, добави компанията.
След правосъдното дело на семейство Рейн, Openai разгласи нови протоколи за сигурност и разшири отбраните за младежи.
FTC комисарят Марк Меадор, в съпътстващо изказване в четвъртък, акцентира случая. „ Случаят на Адам не е външен тип. По целия свят отчетите за засилващи се самоубийствени хрумвания са се нараснали, защото тези технологии са станали по -популярни “, сподели той.
Meta’s chief executive Mark Zuckerberg in particular has been a proponent of ‘AI friends’, citing research showing the average American has fewer than three friends and suggesting they would like to have closer to 15.
However, last month, a Reuters report found Meta’s policies had expressly permitted its chatbots to have “sensual ” and “romantic ” chats with children in a move that prompted a Двустранна реакция.
Meta съобщи, че вътрешните документи „ са и са неправилни и несъвместими с нашите политики “. Той разгласи нови междинни политики за сигурност, в това число образованието на неговите AI системи да не дават отговор на младежите по тематики, в това число евентуално несъответствуващи сантиментални диалози.
FTC през последните години ускори контрола на огромните технологии посредством антитръстовото използване, както и неговия необятен мандат за отбрана Позиция за осъществяване, която беше призната при някогашния президент Джо Байдън.
FTC по -рано тази година продължи с антитръстовия развой, обвиняващ мета в запазването на незаконен монопол, откакто отхвърли предложенията за споразумяване на Зукърбърг. Компанията чака решение от първата фаза на процеса.
Допълнително отчитане на Стивън Морис в Сан Франциско
