Създателят на ChatGPT OpenAI дава право на вето, за да се включи в рисков AI, докато ЕС започва процес на регулиране
Потенциалните опасности от генеративния AI са повод за загриженост за обществеността, политиците и изследователите на AI.
OpenAI разшири вътрешния си процес за безопасност, за да се справи със заплахата от вреден изкуствен интелект (AI), тъй като правителствата се стремят да намалят технологията.
Стартиращата компания, която се гордее със своята изключително успешен чатбот ChatGPT и е подкрепен от Microsoft, заяви, че ще създаде специален екип, който да наблюдава техническата работа и оперативна структура, което също така позволява на борда да отменя решенията за безопасност.
„Ние създаваме кръстосано консултативна група за функционална безопасност, за да прегледа всички доклади и да ги изпрати едновременно на ръководството и борда на директорите. Въпреки че ръководството е този, който взема решения, бордът на директорите има правото да отменя решенията", каза компанията на уебсайта си в понеделник.
Компанията актуализира своята „рамка за готовност“, като каза, че също така ще инвестира в надлежни оценки на способностите и прогнозиране за по-добро откриване на възникващи рискове. Компанията също така каза, че непрекъснато ще актуализира „карти с резултати“ за своите модели.
„Ние ще оценим всички наши гранични модели, включително при всяко 2x ефективно увеличение на изчисленията по време на тренировъчни изпълнения. Ние ще изтласкаме моделите до техните граници“, казаха от OpenAI.
Потенциалните опасности от технологията са загриженост за обществеността, политиците и изследователите на ИИ, тъй като генеративният ИИ може да разпространява дезинформация.
OpenAI, който е най-ценният стартъп в Съединените щати, беше хвърлен в смут през ноември, когато неговият съосновател и главен изпълнителен директор Сам Алтман беше отстранен от борда и по-голямата част от персонала на компанията заплаши да напусне, освен ако той не бъде възстановен.
Няколко дни преди Олтман да бъде уволнен от борда, няколко изследователи на персонала написаха писмо до борда на директорите, предупреждавайки за мощно откритие на ИИ, което може да застраши човечеството, съобщи Ройтерс през ноември, цитирайки двама души, запознати с има значение.
Правителствата по света започват да регулират технологията, като Европейският съюз става първият, който се съгласява с правилник за ИИ.
