OpenAI формира комитет по безопасност, докато започва да обучава най-новия модел на изкуствен интелект

OpenAI споделя, че основава нов комитет по сигурност и сигурност и е почнал да образова нов модел на изкуствен интелект, с цел да размени системата GPT-4, която е в основата на неговия чатбот ChatGPT.

Стартъпът от Сан Франциско сподели в обява в блог във вторник, че комисията ще поучава цялостния ръб по отношение на „ сериозните решения за сигурност и сигурност “ за своите планове и интервенции.

Комитетът по сигурност идва, до момента в който дебатът се завихря към сигурността на AI в компанията, която беше хвърлена в светлината на прожекторите, откакто откривател Ян Лейке подаде оставка и насочи рецензии към OpenAI, че остави сигурността „ да остави на назад във времето пред лъскавите артикули. ”

OpenAI съобщи, че „ неотдавна е почнал да образова своя идващ граничен модел “ и неговите AI модели са водещи в промишлеността във връзка с благоприятни условия и сигурност, макар че не загатнаха разногласието. „ Приветстваме мощен спор в този значим миг “, споделиха от компанията.

ИИ моделите са системи за прогнозиране, които са подготвени на големи масиви от данни, с цел да генерират текст при поискване, изображения, видео и човешки диалог. Frontier моделите са най-мощните, авангардни AI системи.

Членовете на комисията по сигурност включват основен изпълнителен шеф на OpenAI Сам Алтман и ръководител Брет Тейлър, дружно с други двама членове на борда, Адам Д'Анджело, който е основен изпълнителен шеф на Quora, и Никол Селигман, някогашен основен консултант на Sony. OpenAI сподели, че четирима механически и политически специалисти на компанията също са членове.

Първата работа на комитета ще бъде да оцени и доразвие процесите и защитните ограничения на OpenAI и да направи своите рекомендации на борда след 90 дни. Компанията сподели, че по-късно ще разгласява обществено рекомендациите, които приема „ по метод, който е съчетаем с сигурността и сигурността. “