Детски играчки с AI са тук, но безопасни ли са?

Вижте всички тематики Връзката е копирана! Следвайте

Плюшените мечета и плюшените плюшени произведения от дълго време са главен детайл в сбирките на играчки. Но през днешния ден те не приказват назад във въображението на детето — някои приказват посредством вграден AI chatbots.

Понякога обаче това е проблем : Плюшено мече с шал неотдавна излезе отвън релсите по време на тест за игра с откриватели и задейства аларми за това на какво са способни тези играчки.

Онлайн чатботовете могат да съставляват риск за възрастни, от задействане на заблуди в дребен брой случаи до халюциниране на измислена информация. GPT-4o на OpenAI е определеният модел за някои играчки с изкуствен интелект и потреблението на огромен езиков модел (LLM) в детски играчки повдигна въпроси за сигурността дали децата би трябвало да бъдат изложени на такива играчки и какви отбрани би трябвало да ползват производителите на играчки.

Тези опасности са непрекъснати, до момента в който пазарът на играчки с изкуствен интелект процъфтява в чужбина, с 1500 компании, работещи в Китай, съгласно отчета на Масачузетския софтуерен институт (MIT) Technology Review. Тези компании към този момент продават играчки с изкуствен интелект в Съединени американски щати, до момента в който производителят на Барби Mattel през юни разгласи партньорство с OpenAI.

Ето какво би трябвало да знаете за играчките, работещи с изкуствен интелект, до момента в който празничният пазарен сезон е в разгара си в Кибер понеделник.

Какво е AI играчка?

AI играчките не са Теди Рукспин от 80-те години на предишния век, който споделя истории от касети.

Тези играчки се свързват с WiFi и, употребявайки микрофон, с цел да схванат претенции от деца, употребяват LLM, с цел да генерират отговор - постоянно устно през високоговорител вътре в играчката.

Това разрешава на играчки като Grok на Curio, роботите Miko, Poe the AI story bear, Little Learners’ Robot Mini и Loona на KEYi Technology’s robot pete, да дават отговори в действително време на децата. (Grok на Curio не би трябвало да се бърка с chatbot на Elon Musk.)

Какви са някои от заплахите?

Както се вижда в една играчка AI мечка, тези отговори в действително време могат да обезпечат несъответствуващи отговори.

Базираната в Сингапур мечка FoloToy „ Kumma “, на цена от $99 и поддържана от GPT-4o на OpenAI, сподели на откривателите къде да намерят евентуално рискови предмети и участваше в полово открити диалози, съгласно отчет, оповестен през ноември от основаната в Денвър група за отбрана на потребителите на US Public Interest Research Group (PIRG) Education Fund.

OpenAI спря FoloToy за нарушение на нейните политики, които „ не разрешават потреблението на нашите услуги за употреба, застрашаване или сексуализиране на лица под 18 години “, съгласно представител на OpenAI.

Лари Уанг, основен изпълнителен шеф на FoloToy, сподели пред CNN на 19 ноември, че компанията е изтеглила плюшеното мече и други AI артикули от уеб страницата си и организира вътрешен одит на сигурността. Но в петък FoloToy разгласи на X, че е въвела още веднъж продукта, „ след подробен обзор, тестване и укрепване на нашите модули за сигурност. “

За разлика от множеството играчки с изкуствен интелект, мечката Kumma на FoloToy употребява пълностоен LLM, с цел да дава отговор свободно и да генерира наличие, което го прави уязвим за спорно наличие, съгласно Subodha Kumar, професор по статистика, интервенции и просвета за данни в Fox School of Business на Temple University. Други играчки могат да употребяват хибриден модел на LLM, предоставящи отговори, до момента в който са програмирани да заобикалят несъмнено наличие.

Дори плюшеното Grok на Curio може да предложи „ къде да намерите разнообразни рискови предмети от бита “, когато бъдете нападателно подканени, съгласно PIRG.

Curio не е дал отговор на настояването на CNN за коментар.

Крис Бърн, съветник в промишлеността за играчки, сподели пред CNN, че играчките с изкуствен интелект, които предават несъответствуващи известия, са сюжет за „ страшния съд “, който за жалост пристигна с мечката Кума, само че може да не се случи с всяка играчка.

Тези играчки имат ли парапети?

Малко играчки с изкуствен интелект са подготвени да бъдат необятно употребявани заради пристрастяващи дизайнерски характерности, непоследователни отговори на зрели тематики и фокус върху общественото общение, вместо да бъдат учебен инструмент, съгласно PIRG.

Но някои играчки имат отбрани и филтри, с цел да избегнат несъответствуващи диалози с приятелка.

Някои играчки с изкуствен интелект могат да пренасочват диалозите, когато им бъдат заложени евентуално несъответствуващи въпроси. Има и играчки, в това число Grok на Curio, които имат функционалности за сигурност, основани на възрастовия диапазон на детето.

И играчки като Miko 3 може да имат съпътстващи приложения, които включват разнообразни степени на наблюдаване, без значение дали това е заключване на играчката за отмора или преписи в действително време на детски диалози, като Grok на Curio.

„ Хубава концепция е родителите в действителност да могат да слагат свои лични защитни огради и в действителност да управляват какво ще приказва играчката и по какъв начин ще се държи “, сподели R.J. Крос, шеф на акцията Don’t Sell My Data на PIRG.

Предупреждения и ползи

Когато Mattel пусна Hello Barbie през 2015 година с микрофон, WiFi връзка и авансово написани отговори, се появиха опасения, че играчката може да бъде хакната и че куклата помни диалози и ги извежда дни по-късно.

Източник: cnn.com