FTC launches inquiry into AI chatbot companions and their effects on children

The Federal Trade Commission has started an inquiry into several social media and artificial intelligence companies, including OpenAI and Meta, about the potential harms to children and teenagers who use their chatbots as companions.

On Thursday, the FTC said it has sent letters to Гугъл parent Alphabet, Фейсбук and Instagram parent Meta Platforms, Snap, Характерни технологии, Chatgpt Maker Openai и XAI.

FTC съобщи, че желае да разбере какви стъпки, в случай че има такива, фирмите са подхванали, с цел да оценят сигурността на своите чатботи, когато работят като спътници, с цел да лимитират потреблението на продуктите и евентуалните негативни резултати върху децата и младежите, и да се уведомяват консуматори и родители на рисковете, свързани с чатботите.

Запитването идва откакто OpenAi е споделил, че проектите на Plane to to to catgpt за питане, откакто се появяват, че са споделили, че да вършат промени в чатгпта, с цел да се разпитват, откакто се появяват, откакто се появяват спомагателни, в това число и добавки, в това число и благодарение на чат. За тези под 18 години, откакто родителите на младеж, умрял от самоубийство през април, иск, потвърждавайки, че чатботът на изкуствения разсъдък накара младежа им да отнеме живота си. 

Повече деца към този момент употребяват AI чатботи за всичко-от помощта за домашна работа до персонални препоръки, прочувствена поддръжка и всекидневно взимане на решения. Това е макар проучванията на вредите на чатботите, за които е потвърдено, че дава на децата рискови препоръки по тематики като опиати, алкохол и хранителни разстройства. 

" С развиването на AI технологиите е значимо да се прегледат резултатите, които чатботите могат да имат върху децата, като в същото време се подсигурява, че Съединените щати поддържат ролята си на световен водач в тази нова и вълнуваща промишленост ", съобщи ръководителят на FTC Андрю Н. Фъргюсън в изказване. 

Той добави: „ Проучването, което стартираме през днешния ден, ще ни помогне да разберем по -добре по какъв начин AI компаниите създават своите артикули и стъпките, които подхващат за отбрана на децата. “

В изказване на CBS News, характерът. Ай сподели, че се радва да „ сътрудничи с FTC за това изследване и даване на прозорливост за потребителската промишленост и в пространството на интервала и в границите на пространството и в границите на пространството и в границите на пространството и в границите на пространството и в границите на пространството се разклонява на пространството и в границите на пространството и в границите на пространството и в границите на пространството и в границите на пространството се разделим с интервала на пространството. Коментирайте запитването на FTC. Компанията работи върху това да се увери, че неговите чатботи са безвредни и възраст са подобаващи за деца, съобщи представител. 

OpenAI said that it's prioritizing " making ChatGPT helpful and safe for everyone, and we know safety matters above all else when young people are involved. We recognize the FTC has open questions and concerns, and we're committed to engaging constructively and responding to them directly. "

In an email to CBS News, Snap said, " We share the FTC's focus on ensuring the thoughtful development of generative AI, and look forward to working С Комисията по политиката на AI, която поддържа нововъведенията в Съединени американски щати, като в същото време пази нашата общественост. "  

Alphabet и XAI не дадоха отговор незабавно на известия за коментар.

AI промени

Openai и Meta по -рано този месец оповестиха промени в метода, по който техните чатботи реагират на младежите, задавайки въпроси за самоубийство или демонстрира признаци на душевен и прочувствен дистрес. Openai съобщи, че разпростира нови контроли, които разрешават на родителите да свържат своите сметки с акаунта на своя младеж.

Родителите могат да избират кои функционалности да деактивират и да „ получават вести, когато системата открива, че техният младеж е в миг на изострен дистрес “, съгласно обявата в блога на компанията, която споделя, че измененията ще влязат в тази есен.

Meta също сподели, че в този момент блокира своите чатботи от диалози с младежи за самонараняване, самоубийство, безредно хранене и несъответствуващи сантиментални диалози и вместо това ги насочва към експертни запаси. Meta already offers parental controls on teen accounts.

If you or someone you know is in emotional distress or a suicidal crisis, you can reach the  by calling or texting 988. You can also chat with the 988 Suicide & Crisis Lifeline .

For more information about , the National Alliance on Mental Illness HelpLine can be reached Monday through Friday, 10 a.m.–10 p.m. ET, на 1-800-950-Нами (6264) или имейл [email protected].

© 2025 CBS Interactive Inc. Всички права непокътнати. Този материал не може да бъде оповестен, излъчен, пренаписан или преразпределен. Асошиейтед прес способства за този отчет.

Още от CBS News

Copyright ©2025 CBS Interactive Inc. Всички права непокътнати.