Още драма с OpenAI: Изпълнителният директор напуска поради опасения относно фокусирането върху печалбата над безопасността
Напускащ изпълнителен директор на OpenAI, фокусиран върху безопасността, поражда опасения за компанията на излизане от вратата.
Ян Лейке, който подаде оставка от ролята си на ръководител на екипа за „суперподреждане“ на компанията тази седмица, каза в нишка в X Friday, че не е съгласен с „основните приоритети“ на ръководството на OpenAI и е „достигнал точка на пречупване“.
„Подравняване“ или „суперподравняване“ са термини, използвани в пространството на изкуствения интелект за обозначаване на работата по обучение на AI системи да работят в рамките на човешките нужди и приоритети. Leike се присъедини към OpenAI през 2021 г. и миналото лято компанията обяви, че той ще ръководи екипа на Superalignment, фокусиран върху „научни и технически пробиви за управление и контрол на AI системи, много по-умни от нас“.
Лейке обаче каза в петък, че през последните месеци екипът е бил с недостатъчни ресурси и е „плавал срещу вятъра“.
„Понякога се борехме за изчисления и ставаше все по-трудно и по-трудно да направим това решаващо изследване“, каза той за X, добавяйки, че четвъртък е последният му ден в стартъпа. „Изграждането на по-интелигентни от човека машини е опасно по своята същност начинание... Но през последните години културата на безопасност и процесите останаха на заден план пред лъскавите продукти.“
Напускането на Leike, което той обяви в сряда, идва на фона на по-широко разместване на ръководството в OpenAI. Неговата оставка последва съобщение от съоснователя на OpenAI и главен учен Иля Суцкевер, който също помогна да ръководи екипа за суперподреждане, във вторник, че ще напусне компанията.
Суцкевер каза, че напуска, за да работи по „проект, който е много лично значим за мен“. Но напускането му беше забележително като се има предвид централната роля, която изигра в драматичното уволнение – и завръщане – на главния изпълнителен директор на OpenAI Сам Олтман миналата година, когато той гласува за отстраняването на Олтман като главен изпълнителен директор и председател на борда.
Сътрудникът на CNN Кара Суишър преди това съобщи, че Съткевер е бил загрижен, че Алтман е прокарал AI технологията „твърде далеч, твърде бързо“. Но дни след отстраняването на Алтман, Съткевер промени решението си: той подписа писмо на служител, призоваващо целия борд да подаде оставка и Алтман да се върне.
Все пак въпросите за това как – и колко бързо – да се разработи и публично да се пусне AI технология може да са продължили да предизвикват напрежение в компанията в месеците след като Алтман възвърна контрола върху фирмата. Изпълнителните напускания идват, след като OpenAI обяви тази седмица, че ще направи своя най-мощен AI модел досега, GPT-4o, достъпен безплатно за обществеността чрез ChatGPT. Технологията ще направи ChatGPT по-скоро като дигитален личен асистент, способен да води разговори в реално време.
„Вярвам, че много по-голяма част от нашата честотна лента трябва да бъде изразходвана за подготовка за следващите поколения модели, за сигурност, наблюдение, готовност, безопасност, устойчивост на състезание, (супер) привеждане в съответствие, поверителност, въздействие върху обществото и свързани теми“, пише Leike в неговата тема X в петък. „Тези проблеми са доста трудни за коригиране и съм загрижен, че не сме на траектория, за да стигнем до там.“
Помолен за коментар относно твърденията на Leike, OpenAI насочи CNN към X публикация от Altman, в която се казва, че компанията се е ангажирала с безопасността.
„Изключително съм благодарен за приноса на @janleike към изследването на подравняването и културата на безопасност на openai и съм много тъжен да го видя да си тръгва“, каза Алтман. „Прав е, имаме още много работа; ние се ангажираме да го направим. ще имам по-дълъг пост през следващите няколко дни.“
– Саманта Делуя от CNN допринесе за този доклад.
