FTC launces inquiry into AI chatbots acting as companions and their effects on children
The Federal Trade Commission has launched an inquiry into several social media and artificial intelligence companies about the potential harms to children and teenagers who use their AI chatbots as companions.
The FTC said Thursday it has sent letters to Гугъл parent Alphabet, Фейсбук and Instagram parent Meta Platforms, Snap, Character Технологии, Chatgpt Maker Openai и XAI.
FTC съобщи, че желае да разбере какви стъпки, в случай че има такива, фирмите са подхванали, с цел да оценят сигурността на своите чатботи, когато работят като спътници, с цел да лимитират потреблението на продуктите и евентуалните негативни резултати върху децата и младежите, както и да се одобрят бележката на потребителите и родителите на рисковете, свързани с чатботите.
бележката на редактора - тази история включва полемика на самоубийствата. Ако вие или някой, който познавате, се нуждаете от помощ, националното самоубийство и спешната линия в Съединени американски щати е налично, като се обадите или изпращате известия на 988.
Този ход идва, защото все по-голям брой деца употребяват AI чатботи за всичко-от домашна помощ до персонални препоръки, прочувствена поддръжка и всекидневно взимане на решения. Това е макар проучванията на вредите на чатботите, за които е потвърдено, че дава на децата рискови препоръки по тематики като опиати, алкохол и хранителни разстройства. Майката на тийнейджърка във Флорида, която се самоуби, откакто създаде това, което тя дефинира като прочувствено и полово насилствена връзка с чатбот, заведе дело за непозволена гибел против характера. И родителите на 16-годишния Адам Рейн неотдавна заведоха иск против Openai и неговия изпълнителен шеф Сам Алтман, като настояват, че Chatgpt е треньор на момчето в Калифорния да възнамерява и да вземе живота си по-рано тази година.
темперамент.ai съобщи, че с неспокойствие чака „ да си сътрудничи с FTC за това питане и да даде визия за потребителската AI промишленост и бързо разрастващата се технология на пространството. “
„ Ние инвестирахме голямо количество запаси в доверието и сигурността, изключително за пускане. През миналата година ние разгърнахме доста основни функционалности за сигурност, в това число напълно нов опит под 18 години и функционалност за наставнически прозрения “, обявиха от компанията. „ Имаме видни отводи от отговорност във всеки чат, с цел да напомним на потребителите, че един воин не е същински човек и че всичко, което един воин споделя, би трябвало да се третира като небивалица. “
Meta отхвърли да разяснява запитването и писмеността, Snap, Openai и X.AI не дадоха отговор незабавно на известия за коментар.
Openai и Meta по -рано този месец оповестиха промени в метода, по който техните чатботи реагират на младежите, задавайки въпроси за самоубийство или демонстрира признаци на умствени и прочувствени премеждия. Openai съобщи, че разпростира нови контроли, които разрешават на родителите да свържат своите сметки с акаунта на своя младеж.
Родителите могат да избират кои функционалности да деактивират и да „ получават вести, когато системата открива, че техният младеж е в миг на изострен дистрес “, съгласно обявата в блога на компанията, която споделя, че измененията ще влязат в тази есен.
Meta също сподели, че в този момент блокира своите чатботи от диалози с младежи за самонараняване, самоубийство, безредно хранене и несъответствуващи сантиментални диалози и вместо това ги насочва към експертни запаси. Мета към този момент предлага наставнически надзор върху тийнейджърските сметки.
