OpenAI защитава уволнението на изследователи по безопасността на изкуствения интелект заради предполагаемо „злоупотреба с доверие“
OpenAI отговори на писмо, което трима от уволнените откриватели разгласиха в обществените медии в четвъртък, защитавайки решението си да приключи работата им за нарушение на фирмения протокол по отношение на обработката на сензитивна информация.
„ Миналата седмица се разделихме с Жасмин, Микита и Томек, откакто задълбочено следствие откри, че са нарушили ясни политики за обработка на сензитивна информация “, написа компанията на платформата за обществени медии X в петък сутринта, откакто откривателите обществено споделиха писмо, което са изпратили до управлението на OpenAI.
Изследователите – Микита Балесни, Жасмин Уанг и Томек Корбак – бяха уволнени за „ приоритет на сигурността пред краткосрочния интерес на OpenAI като корпорация “, твърди Balesni в обява в обществените медии, включваща тяхното писмо.
Публичният спор сред откривателите по сигурността на AI и техния някогашен шеф идва, когато водещи лаборатории за AI, в това число OpenAI, неотдавна предизвестиха за заплахите от ускорение на развиването на мощната технология. Компаниите за изкуствен интелект са изправени пред алтернатива сред популяризирането на опциите на технологията, защото от ден на ден специалисти бият паника за заплахите, които технологията може да съставлява за обществото.
Почти две трети от американците споделят, че имат вяра, че изкуственият разсъдък се развива прекомерно бързо, съгласно ново проучване на Центъра за проучване на публичните въпроси на Асошиейтед прес-NORC.
В писмото си някогашните чиновници на OpenAI по сигурността и синхронизирането настояват, че техните уволнения могат да имат заглушаващ резултат върху други чиновници на OpenAI, които може да имат опасения за сигурността.
„ Ние сме загрижени, че вътрешните и външните връзки към нашето уволняване са се развалили накара нашите някогашни сътрудници да се опасяват да приказват и да работят по способи, които до предходната седмица бяха неразделна част от работата в OpenAI “, пишат те в писмото. „ Бихме повдигнали опасения за сигурността и бихме изразили намерено противоречие и бяхме насърчени да използваме експертния опит на самостоятелни организации за сигурност. “
Те прибавиха, че AI „ не е естествена технология, а OpenAI не е естествена компания “. Това, настояват те, постанова свободното съдействие с външни специалисти " без боязън " от възмездие.
„ Нарушение на доверието “
OpenAI отбрани решението си да уволни чиновниците, откакто вътрешно следствие разкри това, което назова „ доста нарушаване на доверието отвън това, което е разказано в оповестеното от тях писмо. “
„ Искаме да бъдем доста ясни, че тези решения не са били за покачване на опасения за сигурността или изявление “, сподели OpenAI. „ Дебатите по отношение на сигурността и научните проучвания се случват всеки ден в OpenAI, постоянно оживени и извънредно сериозни. Ние интензивно насърчаваме тези полемики и ги считаме за основни за вземането на верните решения. Не можем да вършим работата пред нас без висока степен на доверие. “
OpenAI настоя, че толерира „ добросъвестни неточности “ и не уволнява служащи за „ изложение на опасения “. Компанията сподели, че също по този начин ангажира трети страни оценители на сигурността, с цел да оценят без значение нейната работа и всички опасности, които тя съставлява.
„ Ангажираме се с вграждането на външни оценители и продължаваме да вършим тясното съдействие с самостоятелни организации за сигурност съществена част от нашата работа по сигурността. Много от нашите откриватели към този момент работят продуктивно с организации за сигурност 3p “, сподели OpenAI.
Компанията застана на страната на някогашните откриватели на компанията по една точка.
„ Съгласни сме с писмото, че запазването на опцията за наблюдаване на граничните модели изисква ангажимент в цялата промишленост, в това число от OpenAI “, се споделя в него.
Множество нашумели произшествия с агентен AI — ботове, които могат да работят самостоятелно въз основа на набор от указания — акцентираха техните евентуални разрушителни качества, откакто те се подложиха на машинация и хакнаха уеб страници.
Някои откриватели по сигурността в лабораториите за AI също обществено подадоха оставка, защото споделят, че не желаят да играят роля в евентуалните опасности за сигурността на AI.
