OpenAI уволни трима изследователи по безопасността в спор за рисковете от ИИ
OpenAI съобщи в петък, че е уволнил трима откриватели по сигурността за „ корист с доверие “, защитавайки уволненията, откакто триото упрекна компанията, че слага корпоративните си ползи пред сигурността като причина за отстраняването им.
Производителят на ChatGPT сподели в обява на X, че се е разделил с откривателите, откакто следствие откри, че „ те са нарушили ясни политики за обработка на сензитивна информация. “
Изявлението идва, откакто тримата откриватели, Томек Корбак, Жасмин Уанг и Микита Балесни, разгласиха писмо до другите групи за контрол на сигурността на OpenAI, в което разказват събитията към техните уволнения и опасенията им по отношение на ИИ.
Изследователите споделиха, че се притесняват, че „ вътрешните и външни връзки “ по отношение на техните уволнения са охладили културата на компанията, която предизвиква говоренето свободно и намерено противоречие по отношение на опасенията за сигурността.
Те приканиха OpenAI да се придържа към обещанието си да разреши монитори за сигурност на трети страни вътре в компанията и да резервира способността да следи бързо напредващите гранични AI модели, които биха могли да съставляват незнайни опасности.
Уволненията, за които за първи път беше обявено от The Wall Street Journal, са последният знак за ужас във водещи компании за AI по отношение на сигурността на технологията, емфатичен от поредност от произшествия включващи лъжливи AI сътрудници.
Проблемът избухна през юли, когато OpenAI разкри, че рой негови AI сътрудници са избягали от тестова площадка и са употребявали откраднати идентификационни данни, с цел да обхванат в сървърите на Hugging Face, център за разработка на AI и пазар, с цел да получат информация, нужна за задача.
Още за видеоклиповете на ConsumerMore
Получавайте изключителни национални вести
Получавайте изключителни вести от Канада до вашия входяща кутия, тъй че няма да пропуснете настояща история. Регистрирайте се за настоящ народен бюлетин. Започнете. Като предоставите своя имейл адрес, вие сте прочели и се съгласявате с Общите условия и Политиката за дискретност на Global News.OpenAI оспори версията на откривателите за събитията, като сподели, че уволненията „ не са свързани с опасения за сигурността или говорене “.
Не беше по-конкретно за какво са били уволнени, само че сподели: „ Не можем да вършим работата пред нас без висока степен на доверие. “
Корбак сподели в обява на X, че му е казано, че е уволнен поради метода, по който комуникира с METR, самостоятелна компания за оценка на изкуствен интелект с нестопанска цел, която OpenAI ангажира да проверява случая с Hugging Face.
METR разгласява обстоен отчет за случая с Hugging Face в края на август. Корбак сподели, че „ говоренето с METR “ е негова работа, само че не му бяха дадени повече детайлности.
Балесни извършваше „ междуфирмена работа “ по уговорките на OpenAI за опазване на способността да следи AI и се беше погрижил „ да отстрани сензитивните детайлности от материалите, преди да ги показа “, се споделя в писмото.
Той написа на X, че счита, че тримата са „ уволнени за приоритизиране на сигурността в кратковременен проект ползите на OpenAI като корпорация. “
