Лаборатория за безопасност на децата стартира „независимо тестване на срив“ за инструменти с изкуствен интелект

Вижте всички тематики Връзката е копирана! Следвайте

Откакто в средата на 90-те започнаха самостоятелните проби за произшествия на транспортни средства, автомобилните производители бяха подтиквани да вършат промени в сигурността, които спасяваха хиляди животи всяка година.

Сега нова група се надява да схване сходен метод към изкуствения разсъдък.

Нестопанската медийна организация Common Sense Media започва Youth AI Safety Institute, самостоятелна лаборатория за проучване и тестване, подкрепяна от промишлеността, с цел да изследва рисковете, които AI инструментите могат да съставляват за деца и младежи. Той ще има за цел да даде информация на родителите и фамилиите за разнообразни принадлежности за изкуствен интелект и да сложи индикатори за сигурност за софтуерните компании.

Компаниите за изкуствен интелект са вкарани в конкуренция за създаване на най-мощните, необятно употребявани модели и това от време на време значи, че скоростта е с приоритет пред тестванията за сигурност. Тъй като AI инструментите са комплицирани системи с набор от разнообразни приложения, класирането на тяхната сигурност евентуално ще бъде доста по-трудно от преценката по какъв начин автомобилът реагира при злополука.

Но Common Sense Media и бордът на водещите водачи в областта на изкуствения разсъдък, образованието и опазването на здравето, наети да следят Института за сигурност на младежкия изкуствен интелект, считат, че разчитането единствено на компании с изкуствен интелект да се самоконтролират във връзка с сигурността не е задоволително, с цел да отбрани младежите. Съществуващите организации за сигурност на AI на трети страни значително се концентрират върху рисковете на публично равнище и екзистенциалните опасности, като загуба на работа или даже изгубване на хора, а не върху комфортни за потребителите оценки за сигурност, ориентирани към ежедневна приложимост.

Целта е публичното внимание и стандартите на трети страни да провокират това, което основният изпълнителен шеф на Common Sense Media Джеймс Стайер назова „ конкуренция към върха “ за софтуерните компании, с цел да създадат корекции на сигурността, с цел да подобрят позицията си.

Водещи компании за изкуствен интелект влагат в проучвания на сигурността, с цел да „ създадат своите модели допустимо най-хубави, само че няма самостоятелна мярка за това “, сподели пред CNN Джон Джанандреа, някогашен началник на тактиката за изкуствен интелект на Apple, който се причисли към консултативния съвет на института. „ Всъщност не знаем кои модели са по-подходящи за деца на избрана възраст от други и мисля, че единственият действителен метод да създадем това е да имаме самостоятелен набор от публични стандарти. “

Стартирането идва откакто голям брой фамилии съдиха компании за изкуствен интелект, потвърждавайки, че чатботовете предизвикват самоубийствата на техните деца. Скорошно следствие на CNN откри, че чат ботовете с изкуствен интелект поучават тестови сметки на младежи по какъв начин да правят принуждение. Grok, чатботът на xAI, попадна под рецензия по-рано тази година за шерване на сексуализирани изображения на дами и деца в отговор на подканите на потребителите за „ цифрово събличане “. И възходящото приемане на AI в класните стаи повдигна въпроси дали технологията може да спре ученето.

„ Мисля, че доста родители, преподаватели и жители считат, че сме в пагубен миг, защото AI прекроява живота на децата, фамилиите и учебните заведения и, почтено казано, на цялото общество “, сподели Стайер извънредно пред CNN преди оповестяването на групата във вторник.

Независими критерии за сигурност на младите хора

Институтът ще стартира с годишен бюджет от 20 милиона $, подсилен от OpenAI, Anthropic и Pinterest, както и от Walton Family Foundation, ръководещия шеф на Goldman Sachs Джийн Сайкс и други филантропи. Финансиращите няма да имат думата в активността или проучванията на групата, съгласно Common Sense.

Консултативният съвет на групата ще включва също Мехран Сахами, ръководител на отдела по компютърни науки на Станфордския университет; Д-р Джени Радески, шеф на отдела по поведенческа педиатрия на Университета на Мичиган; и доктор Надин Бърк Харис, която е била първият общоприет хирург в Калифорния - обединявайки опит в проучванията, определянето на стандарти и създаването на софтуерни артикули.

Институтът ще " червен екип " водещи AI модели и артикули, употребявани от младежи - стрес проби за идентифициране на евентуални опасности или дефекти в защитните парапети. След това ще разгласява проучвания като комфортни за потребителя управления за обществеността и ще създаде стандарти за сигурност на AI за младежи или индикатори, които софтуерните компании биха могли да употребяват за създаване или възстановяване на своите артикули. Планира да разгласява проучвания от този месец.

Компаниите с изкуствен интелект към този момент употребяват такива бенчмаркове, с цел да мерят и съпоставят успеваемостта си с други индикатори. Групата се надява, че публичният напън, както и нейните връзки с промишлеността, ще насърчат фирмите за изкуствен интелект да включат стандартите в своите разработки и проби – и да създадат промени в сигурността, с цел да подобрят позициите си.

„ Бенчмарковете в действителност са виталната мощ на това по какъв начин хората мерят и по какъв начин знаем, че цялата тази инвестиция води до модели с по-високо качество “, сподели Джанандреа. „ Това, от което се нуждаем, е пример за вредите и по-специално за вредите върху децата. “

Сред провокациите за откривателите е темпът на развиване на ИИ. За разлика от физическите артикули, които се пускат постоянно и може да не се трансформират доста, откакто излязат на пазара, AI моделите постоянно получават нови благоприятни условия за актуализиране – и затова евентуално нови опасности – на седмична или месечна база.

Създаването на Youth AI Safety Institute като обособена група ще даде опция за още по-чести, постоянни проучвания, с цел да бъде в крайник с бързия прогрес на моделите на AI, сподели Steyer.

Common Sense Media се употребява необятно от родители и преподаватели за своите рейтинги на филми, видео игри и други онлайн платформи; организацията споделя, че нейните платформи имат 150 милиона консуматори месечно. И към този момент изследва рисковете, свързани с ИИ. Миналата година той предизвести, че съпътстващите приложения с изкуствен интелект съставляват „ неприемливи опасности “ за младежите.

Той също по този начин разгласява оценки на риска на принадлежности за изкуствен интелект като ChatGPT на OpenAI, MetaAI и Grok. Тези отчети класират инструментите по канара от „ най-малък риск “ до „ недопустимо “ във връзка с ограниченията, в това число сигурността на децата, потреблението на данни и надеждността, и дават образци за това къде инструментите не съумяват.

Младежкият AI Safety Institute желае да избегне повторението на клопките за сигурност на ерата на обществените медии. Минаха години преди да