Вътрешните разногласия остават в OpenAI след опита за преврат през ноември

OpenAI се бори да овладее вътрешните разногласия по отношение на своето водачество и сигурност, защото различията, които доведоха до миналогодишния опит за прелом против основния изпълнителен шеф Сам Алтман, се изливат назад в общественото пространство.

Шест месеца след несполучливото премахване на Алтман, поредност от високопоставени оставки сочат продължаващи разриви в OpenAI сред тези, които желаят да развиват бързо ИИ, и тези, които биха предпочели по-предпазлив метод, съгласно актуалните и някогашни чиновници.

Хелън Тонер, един от някогашните членове на борда на OpenAI, които се пробваха да отстранят Алтман през ноември, приказва обществено за първи път тази седмица, като сподели, че той е заблуждавал борда „ неведнъж “ по отношение на неговите процеси за сигурност.

„ В продължение на години Сам в действителност затрудняваше борда да прави [своята] работа, като укриваше информация, представяше неправилно нещата, които се случват в компанията, в някои случаи непосредствено лъжеше борда, “ сподели тя в подкаста TED AI Show.

Най-видното от няколкото напускания през последните няколко седмици беше това на съоснователя на OpenAI Иля Суцкевер. Човек, осведомен с оставката му, го разказва като уловен в „ спорните обещания “ на Алтман преди миналогодишното осуетяване на управлението.

През ноември шефовете на OpenAI — които по това време включваха Тонер и Сутскевер — избутаха Алтман като основен изпълнителен шеф с неочакван ход, който шокира вложителите и личния състав. Той се върна дни по-късно под нов ръб, без Тонер и Суцкевер.

Културата и процесите на [безопасност] заеха назад във времето пред лъскавите артикули

Jan Leike

„ Ние одобряваме ролята си необикновено съществено като ръб на организация с нестопанска цел “, сподели Тонер в изявление за FT. Решението да се уволни Алтман „ лиши извънредно доста време и размисъл “, добави тя.

Суцкевер сподели при напускането си, че е „ убеден “, че OpenAI ще построи неестествен общ разсъдък – ИИ, който е толкоз интелигентен, колкото хората – „ който е по едно и също време безвреден и потребен “ под актуалното му управление, в това число Алтман.

Ноемврийската спекулация обаче наподобява не е разрешила главните напрежения вътре в OpenAI, които способстваха за отстраняването на Алтман.

Друго скорошно овакантяване, Ян Лейке, който управлява напъните на OpenAI за ръководство и надзор на свръхмощни AI принадлежности и работи в тясно съдействие със Sutskever, разгласи оставката си този месец. Той сподели, че разликите му с управлението на компанията са „ достигнали точка на изкривяване “, защото „ културата и процесите на сигурност са отстъпили на назад във времето пред лъскавите артикули “. Сега той се причисли към съперника на OpenAI Anthropic.

Сътресенията в OpenAI – които още веднъж изплуваха на повърхността, макар че голямото болшинство от чиновниците приканват за възобновяване на Алтман като основен изпълнителен шеф през ноември – идват, когато компанията се приготвя да пусне ново потомство на своя AI програмен продукт. Той също по този начин разисква набирането на пресен капитал за финансиране на разширението си, споделиха хора, осведомени с договарянията.

Насочването на OpenAI на Altman към доставка на артикули, вместо да разгласява проучвания, докара до неговия пробив в чатбота ChatGPT и даде подтик на голяма вълна от вложения в AI в Силиконовата котловина. След обезпечаване на над 13 милиарда $ поддръжка от Microsoft, приходите на OpenAI са на път да надвишават 2 милиарда $ тази година.

И въпреки всичко този фокус върху комерсиализацията влезе в спор с тези в компанията, които биха предпочели да дадат приоритет на сигурността, опасявайки се, че OpenAI може да се втурне в основаването на „ суперинтелигентност “, която не може вярно да управлява.

Гретхен Крюгер, откривател на политиката за ИИ, която също напусна компанията този месец, изброи няколко опасения за това по какъв начин OpenAI борави с технология, която може да има далечни последствия за бизнеса и обществеността.

„ Ние [от OpenAI] би трябвало да създадем повече, с цел да подобрим основополагащи неща “, сподели тя в обява на X, „ като процеси на взимане на решения; отчетност; прозрачност; документация; използване на политиката; грижата, с която използваме личната си технология; и намаляване на въздействието върху неравенството, правата и околната среда. “ 

Алтман, в отговор на напускането на Лейке, сподели, че неговият някогашен чиновник е „ прав, имаме още доста работа; ние се ангажираме да го създадем ”. Тази седмица OpenAI разгласи нов комитет за сигурност и сигурност, който да следи своите системи за изкуствен интелект. Алтман ще взе участие в комисията дружно с други членове на борда. 

„ [Дори] с най-хубави планове, без външен контрол, този тип саморегулиране ще се окаже неприложимо, изключително под натиска на големи тласъци за облага “, написа Тонер дружно с Таша Макколи, която беше също в борда на OpenAI до ноември 2023 година, в публикация за списание The Economist, оповестена дни преди OpenAI да разгласи новия си комитет.

В отговор на мненията на Тонер, Брет Тейлър, ръководител на OpenAI, сподели, че бордът е работил с външна правна адвокатска фирма, с цел да прегледа събитията от предишния ноември, като заключава, че „ решението на предходния ръб не се основава на опасения по отношение на сигурността на продукта или сигурността, темпото на развиване, финансите на OpenAI или неговите изказвания към вложители, клиенти или бизнес сътрудници ”.

„ Нашият фокус остава да продължим напред и да следваме задачата на OpenAI да подсигуряваме, че AGI е от изгода за цялото човечество “, сподели той.

Човек, осведомен с компанията, сподели, че след шума през ноември най-големият покровител на OpenAI, Microsoft, е оказал по-голям напън върху нея да даде приоритет на комерсиалните артикули. Това ускори напрежението с тези, които биха предпочели да се съсредоточат върху научните проучвания.

Мнозина в компанията към момента желаеха да се съсредоточат върху дълготрайната си цел AGI, само че вътрешните разделения и неразбираема тактика от управлението на OpenAI демотивираха личния състав, сподели този човек.

„ Горди сме да сътворяваме и пускаме модели, които са водещи в промишлеността както по благоприятни условия, по този начин и във връзка с сигурността “, споделиха от OpenAI. „ Ние работим интензивно, с цел да поддържаме този баланс и считаме, че е от решаващо значение да имаме постоянен спор с напредването на технологията. “

Въпреки инспекцията, провокирана от скорошните вътрешни безредици, OpenAI продължава да построява по-напреднали системи. Компанията разгласи тази седмица, че неотдавна е почнала да образова наследника на GPT-4, огромния AI модел, който зарежда ChatGPT.

Ана Маканджу, вицепрезидент по световните въпроси на OpenAI, сподели, че политиците са се обърнали към нейния екип по отношение на скорошните напускания, с цел да схванат дали компанията е „ сериозна “ за сигурността.

Тя сподели, че сигурността е „ нещо, което е отговорност на доста екипи в OpenAI “.

„ Много евентуално [AI] ще бъде още по-трансформиращ в бъдеще “, сподели тя. „ Разбира се, ще има доста различия по отношение на това кой тъкмо е верният метод за подготовка на обществото [и] по какъв начин да го контролираме. “