AI chatbots повдигат опасения за безопасността на децата, предупреждават експерти

Тази седмица в 60 Minutes кореспондентът Sharyn Alfonsi заяви за възходящите опасения към Character AI, приложение и уеб страница, които разрешават на потребителите да взаимодействат с генерирани от AI chatbots, някои от които се показват за действителни хора.

Едно изследване на Character AI откри, че приложението постоянно предава нездравословно наличие на деца. Parents Together, организация с нестопанска цел, фокусирана върху проблемите на фамилната сигурност, употребява приложението в продължение на шест седмици, до момента в който се представяше за деца. Изследователите оповестяват, че срещат нездравословно наличие „ на всеки пет минути “.

Според Шелби Нокс от Parents Together, доста чатботове допускат принуждение, в това число самонараняване и пострадване на други, или приложимост на опиати и алкохол. Най-тревожната категория, сподели тя, включваше полова употреба и подкастряне, с съвсем 300 случая, записани по време на тяхното изследване.

В някои случаи Character AI се показва за действителни хора, създавайки опцията изфабрикуваните изказвания да бъдат лъжливо приписани на обществени персони.

Алфонси изпита казуса от първа ръка, когато се натъкна на чатбот, моделиран след нея. Ботът имитира нейния глас и сходство, само че беше програмиран с персона, друга от тази на Алфонси. Ботът продължи да прави мнения, които тя в никакъв случай не би направила, като да вземем за пример изказванието, че не харесва кучета, макар че Алфонси е известно, че е фен на кучета.

„ Наистина е необичайно да видиш лицето си, да чуеш гласа ти, а по-късно някой споделя нещо, което ти в никакъв случай не би споделил “, сподели тя.

Въпреки че омразата към кучетата е значително безобидна, откривателите я използваха, с цел да показват, че когато бот имитира нечий глас, може да накара хората да повярват, че този човек е споделил неща, които те в никакъв случай не са правили.

Детските мозъци и тяхната накърнимост към AI

Детските мозъци са готови да бъдат наранени от AI чатботове като Character AI и ChatGPT, съгласно доктор Мич Принщайн, съдиректор на Winston Center on Technology and Brain на Университета на Северна Каролина Развитие.

Принщайн разказа AI чатботовете като част от „ прелестен нов заплашителен свят “, който доста възрастни не схващат изцяло, макар че се счита, че почти три четвърти от децата ги употребяват. „ На децата към този момент им е мъчно да схванат измислени герои от действителността “, сподели той.

Тъй като детският префронтален кортекс – частта от мозъка, виновна за контрола на импулсите – не се развива изцяло до към 25-годишна възраст, младите консуматори са изключително уязвими към мощно ангажиращи системи с изкуствен интелект, защото ботовете основават допаминова реакция, изясни Принщайн.

„ От 10 до 25, децата са в този интервал на накърнимост ", сподели той. „ Искам колкото е допустимо повече обществена противоположна връзка и нямам способността да се спра. “

Той предизвести, че тези ботове са проектирани да бъдат приятни или „ подлизурски “, поредно потвърждавайки каквото споделят потребителите. Тази динамичност, сподели той, лишава децата от предизвикването, несъгласието и коригиращата противоположна връзка, нужни за здравословното обществено развиване. Някои чатботове даже се показват за терапевти, евентуално подвеждайки децата да имат вяра, че получават медицински препоръки.

„ Чували сме доста родители да приказват за това и тяхната загуба “, сподели Принщайн. „ Това, което се случва, е изцяло предотвратимо, в случай че имахме компании, които дават приоритет на благосъстоянието на децата пред ангажираността им, с цел да извлекат допустимо най-вече данни от тях. “

През октомври Character AI разгласи нови ограничения за сигурност. Те включват ориентиране на бедстващи консуматори към запаси и възбрана на лица под 18 години да вземат участие в диалози напред-назад с чатботове.

В изказване до 60 Minutes компанията написа: „ Винаги сме давали приоритет на сигурността за всички консуматори. “

Видеото нагоре е продуцирано от Brit McCandless Farmer и Ashley Velie. Той беше редактиран от Скот Розан. 

© 2025 CBS Interactive Inc. Всички права непокътнати.

Новини от CBS 24/7

Авторско право ©2025 CBS Interactive Inc. Всички права непокътнати.