OpenAI казва, че бордът може да отмени решенията на главния изпълнителен директор Сам Алтман относно пускането на нов AI
Бордът на директорите на OpenAI може да отмени главния изпълнителен директор Сам Алтман относно пускането на нов модел с изкуствен интелект – последният знак, че компанията дава приоритет на намаляването на риска в резултат на това от скорошната драма около уволнението му.
Компанията от Силициевата долина публикува нов набор от насоки в понеделник, в които подробно описва как планира да минимизира потенциалните опасности от новоиздадените езикови модели на AI.
„Проучването на граничните рискове от ИИ е далеч от това, което е възможно и където трябва да бъдем“, каза компанията в изявление, озаглавено „Подготовка“.
OpenAI каза, че новата му „рамка за готовност“ ще включва процеси, които „проследяват, оценяват, прогнозират и защитават срещу катастрофални рискове, породени от все по-мощни модели“.
Екипът за готовност ще бъде натоварен със задачата да прецени рисковете, които новаторският AI представлява в областта на киберсигурността, както и химическите, ядрените и биологичните заплахи.
Александър Мадри, професор от Масачузетския технологичен институт, който оглавява групата за готовност, каза пред Bloomberg News, че неговият екип ще създава месечни отчети, които ще се изпращат на вътрешна консултативна група по безопасността.
Консултативната група ще разгледа констатациите на екипа на Мадри и след това ще изпрати собствените си препоръки до Алтман и борда.
Миналия месец 38-годишният Алтман беше уволнен от борда на директорите на компанията – само за да бъде възстановен като главен изпълнителен директор дни по-късно в лицето на широко разпространен бунт сред служителите.
Преди да бъде уволнен, Алтман е бил в противоречие с борда относно бързите темпове, с които OpenAI комерсиализира продуктите си и ги пуска на пазара, главният сред които е ChatGPT.
Съобщава се, че членовете на борда са се загрижили дали Алтман е бил достатъчно внимателен към рисковете, породени от ИИ, включително потенциалната заплаха за работните места, изпълнявани от хора, както и възможното разпространение на дезинформация.
Старши служители в OpenAI се оплакаха на бившия борд на директорите на компанията, че Алтман е „психологически малтретиран“.
Олтман също беше обвинен в „насъскване на служителите един срещу друг по нездравословен начин“, съобщава The Washington Post, цитирайки двама души, запознати с мисленето на борда.
Освен оплакванията на персонала, източниците казаха, че бордът на OpenAI смята, че Алтман ги е излъгал като част от усилията да отстрани Хелън Тонер, член на борда и академик, фокусиран върху безопасността на ИИ.
Съобщава се, че Алтман се е разгневил на Тонер, след като тя е допринесла за статия, която критикува OpenAI за изтласкването на ChatGPT, като твърди, че този ход ускорява надпреварата в ИИ за сметка на безопасността.
Потенциалните опасности, породени от AI, са тема за безпокойство сред наблюдателите от Силиконовата долина и технологичните предприемачи.
По-рано тази година Илон Мъск, съосновател на OpenAI, който напусна фирмата, след като загуби битка за власт, и десетки други технологични ръководители подписаха отворено писмо, настояващо за пауза в изследванията и развитието на AI поради опасения относно „ дълбоки рискове за обществото и човечеството.“
