OpenAI формира комитет по безопасност, докато започва да обучава най-новия модел на AI
OpenAI сподели, че основава комитет по сигурност и сигурност и е почнал да образова нов модел на AI, който да размени системата GPT-4, която е в основата на неговия чатбот ChatGPT.
Стартъпът от Сан Франциско сподели в обява в блог във вторник, че комисията ще поучава цялостния ръб по отношение на „ сериозните решения за сигурност и сигурност “ за своите планове и интервенции.
Комисията по сигурност идва защото дебатът се вихри към сигурността на AI в компанията, която беше хвърлена в светлината на прожекторите, откакто откривател Ян Лейке подаде оставка и насочи рецензии към OpenAI за това, че е оставил сигурността „ да остави на назад във времето пред лъскавите артикули “.
OpenAI co -основателят и основен академик Иля Суцкевер също подаде оставка и компанията разпусна екипа за „ суперподравняване “, фокусиран върху рисковете от ИИ, който те управляваха взаимно.
OpenAI сподели, че „ неотдавна е почнал да образова своя идващ граничен модел “ и неговите AI модели са водещи в промишлеността във връзка с благоприятни условия и сигурност, макар че не загатнаха разногласието.
„ Ние приветстваме мощен спор в този значим миг “, споделиха от компанията.
ИИ моделите са системи за прогнозиране, които са подготвени на големи масиви от данни, с цел да генерират текст по поръчка, изображения, видео и човешки диалог. Frontier моделите са най-мощните, авангардни системи с изкуствен интелект.
Комитетът по сигурност е цялостен с вътрешни лица на компанията, в това число основен изпълнителен шеф на OpenAI Сам Алтман и ръководител Брет Тейлър, както и четирима механически и политически специалисти на OpenAI. Той също по този начин включва членове на борда Адам Д'Анджело, който е основен изпълнителен шеф на Quora, и Никол Селигман, някогашен основен консултант на Sony.
Първата задача на комитета ще бъде да оцени и доразвие процесите и защитните ограничения на OpenAI и направи своите рекомендации на борда след 90 дни.
Компанията сподели, че по-късно ще разгласява обществено рекомендациите, които приема „ по метод, който е съчетаем с сигурността и сигурността “.
