Още драма с OpenAI: Изпълнителният директор напуска поради опасения относно фокусирането върху печалбата над безопасността

Напускащ изпълнителен шеф на OpenAI, фокусиран върху сигурността, поражда опасения за компанията на излизане от вратата.

Ян Лейке, който подаде оставка от ролята си на началник на екипа за „ суперподреждане “ на компанията тази седмица, сподели в нишка в X Friday, че не е склонен с „ главните цели “ на управлението на OpenAI и е „ достигнал точка на изкривяване “.

„ Подравняване “ или „ суперподравняване “ са термини, употребявани в пространството на изкуствения разсъдък за обозначаване на работата по образование на AI системи да работят в границите на човешките потребности и цели. Leike се причисли към OpenAI през 2021 година и предишното лято компанията разгласи, че той ще управлява екипа на Superalignment, фокусиран върху „ научни и механически пробиви за ръководство и надзор на AI системи, доста по-умни от нас “.

Лейке обаче сподели в петък, че през последните месеци екипът е бил с незадоволителни запаси и е „ плавал против вятъра “.

„ Понякога се борехме за калкулации и ставаше все по-трудно и по-трудно да създадем това решаващо проучване “, сподели той за X, добавяйки, че четвъртък е последният му ден в стартъпа. „ Изграждането на по-интелигентни от индивида машини е рисково по своята същина начинание... Но през последните години културата на сигурност и процесите останаха на назад във времето пред лъскавите артикули. “

Напускането на Leike, което той разгласи в сряда, идва на фона на по-широко разбъркване на управлението в OpenAI. Неговата оставка последва известие от съоснователя на OpenAI и основен академик Иля Суцкевер, който също оказа помощ да управлява екипа за суперподреждане, във вторник, че ще напусне компанията.

Суцкевер сподели, че напуща, с цел да работи по „ план, който е доста персонално важен за мен “. Но напускането му беше удивително като се има поради централната роля, която изигра в трагичното уволняване – и завръщане – на основния изпълнителен шеф на OpenAI Сам Олтман предходната година, когато той гласоподава за отстраняването на Олтман като основен изпълнителен шеф и ръководител на борда.

Сътрудникът на CNN Кара Суишър преди това заяви, че Съткевер е бил угрижен, че Алтман е прокарал AI технологията „ прекомерно надалеч, прекомерно бързо “. Но дни след отстраняването на Алтман, Съткевер промени решението си: той подписа писмо на чиновник, призоваващо целия ръб да подаде оставка и Алтман да се върне.

Все отново въпросите за това по какъв начин – и какъв брой бързо – да се създаде и обществено да се пусне AI технология може да са траяли да провокират напрежение в компанията в месеците откакто Алтман възвърна контрола върху компанията. Изпълнителните напускания идват, откакто OpenAI разгласи тази седмица, че ще направи своя най-мощен AI модел до момента, GPT-4o, наличен гратис за обществеността посредством ChatGPT. Технологията ще направи ChatGPT по-скоро като цифров персонален помощник, кадърен да води диалози в действително време.

„ Вярвам, че доста по-голяма част от нашата честотна лента би трябвало да бъде изразходвана за подготовка за идващите генерации модели, за сигурност, наблюдаване, подготвеност, сигурност, резистентност на съревнование, (супер) привеждане в сходство, дискретност, влияние върху обществото и свързани тематики “, написа Leike в неговата тематика X в петък. „ Тези проблеми са много сложни за поправяне и съм угрижен, че не сме на траектория, с цел да стигнем до там. “

Помолен за коментар по отношение на изказванията на Leike, OpenAI насочи CNN към X обява от Altman, в която се споделя, че компанията се е заела с сигурността.

„ Изключително съм признателен за приноса на @janleike към проучването на подравняването и културата на сигурност на openai и съм доста печален да го видя да си потегля “, сподели Алтман. „ Прав е, имаме още доста работа; ние се ангажираме да го създадем. ще имам по-дълъг пост през идващите няколко дни. “

– Саманта Делуя от CNN способства за този отчет.