Openai`s Safety Group, за да се превърне в „независим съвет за надзор без Сам Алтман

Този ход следва все по -голям надзор върху политиките за сигурност на Openai, които Алтман е повлиял директно като един от водачите на своя комитет.

трансформира своята комисия за вътрешна сигурност в " самостоятелен " съвет за контрол, съобщи компанията в обява в блога в понеделник. 

Производителят на Chatgpt също сподели, че по този начин нареченият комитет за сигурност и сигурност ще бъде управляван от Карнеги Мелън професор Зико Колтер.

Комитетът, оголен през май, в началото е включен, само че в този момент ще има " Независимо ръководство ".

Openai е подложена на рецензия. През юни група от сегашни и някогашни чиновници на Openai разгласява отворено писмо, предупреждавайки за „ сериозните опасности, подбудени от тези технологии “.

доста високопрофилни чиновници, в това число съучителката Ilya Sutskever, подаде оставка От компанията, базирайки се на опасенията за сигурността. 

Месец по -късно петима американски сенатори повдигнаха въпроси за това по какъв начин Openai се обръща към появяването в писмо до Алтман.

Openai съобщи, че " самостоятелната " комисия ще бъде осведомена по нови модели и това Бордът може да забави стартирането на всички нови модели. 

Компанията също по този начин съобщи, че комитетът е прегледал новия модел O1, с кодово име Strawberry и съобщи, че това е „ междинен Риск ".

" Като част от своята работа Комитетът за сигурност и сигурност... ще продължи да получава постоянни отчети за техническите оценки за актуалните и бъдещите модели, както и отчетите за настоящ мониторинг след освобождение, " Openai написа в своята обява в блога. ; 

Други членове на комисията включват изпълнителния шеф на Quora Адам Д'Анджело, пенсионираният военачалник на армията на Съединени американски щати и някогашен шеф на НСА Пол Накасоне и някогашен общоприет консултант на Sony Никол Селигман.