Създателят на ChatGPT OpenAI се обединява с организация с нестопанска цел за безопасност на децата, за да създаде насоки за изкуствен интелект
OpenAI е подложен на щателна проверка относно обработката на данни и страха, че AI може да навреди на обществото.
OpenAI си партнира с организация за безопасност на децата, за да създаде насоки за изкуствен интелект (AI) и образователни материали за тийнейджъри и семейства.
Ходът идва, когато компанията зад ChatGPT е изправена пред контрол върху данните боравене и страхът, че AI може да навреди на обществото.
Сътрудничеството с организацията с нестопанска цел Common Sense Media, която оценява дали медиите и технологиите са подходящи за деца, беше обявено на събитие в Сан Франциско в понеделник.
„Искаме да разберем как да направим този инструмент безопасен и отговорен и широко достъпен за тийнейджъри и хора, които ще го използват като част от своето образователно изживяване“, каза главният изпълнителен директор на OpenAI Сам Алтман пред публиката.
Приложението получи обратна реакция поради това, че не защитава непълнолетни, тъй като няма начин да се потвърди възрастта на потребителя. Той също така е подложен на проверка, тъй като неговите инструменти могат да предизвикат халюцинации, при които AI системите уверено измислят нещата или са предубедени поради данните, използвани за обучение на инструментите.
Олтман обаче отхвърли идеята, че AI е лош за деца и че инструментите за изкуствен интелект трябва да се държат извън училищата.
Ню Йорк Таймс завежда дело срещу OpenAI и Microsoft за използване на статии за обучение на чатботове за изкуствен интелект Кой е Сам Олтман? От отпадането от колежа до създателя на феномена ChatGPT на чатбота на OpenAI„Хората са потребители на инструменти и е по-добре да научим хората да използват инструментите, които ще се появят в света“, каза той. „Да не научим хората да ги използват би било грешка.“
Common Sense Media се опитва да разработи система за оценка на AI за родители, деца и преподаватели.
Някои академици имат изразиха загриженост за това как AI chatbots могат да бъдат използвани за писане на есета. Но децата и непълнолетните също използват ChatGPT за помощ при лични проблеми.
Според проучване на Центъра за демокрация и технологии с нестопанска цел, 29 процента от децата и тийнейджърите в САЩ са използвали ChatGPT за помощ при тревожност или проблеми с психичното здраве, 22 процента при проблеми с приятели и 16 процента при семейни конфликти.
