Печалба срещу човечеството: Дебатът за корпоративно управление на AI

Тази публикация е версия на нашия бюлетин за морални пари. Абонатите на Premium могат да се записват тук, с цел да получат бюлетина три пъти седмично. Стандартните клиенти могат да надстроят до премиум тук или да проучат всички бюлетини на FT.

Посетете нашия център за морални пари за всички най -нови вести, мнение и разбор на ESG от към FT

Добре пристигнали.

Борбата за балансиране на облагата и задачата е сложна за доста бизнес водачи. Трябва да е изключително комплицирано, когато смятате, че вашата промишленост може да докара до изгубване на човешката раса.

Как фирмите за изкуствен интелект се оправят с тази деликатна динамичност? Прочетете и ни уведомете за вашето. Тяхната работа като актуалната годишна продукция на AI пионери. За да се уверят обществеността - а може би и себе си - някои от водещите играчи в бранша са създали необикновени структури за ръководство, които сякаш биха ги попречили да слагат комерсиална облага над положителното на човечеството.

Но надалеч не е ясно, че тези системи ще се окажат подобаващи за задачата, когато тези два целта се сблъскат. И напрежението към този момент се оказва мъчно за справяне, както можем да забележим от последните разработки в Openai, най-високото и високо ценено пускане на AI в света. It’s a complex saga, but one that gives a vital window into a corporate governance debate with massive implications.

OpenAI was founded by a group including entrepreneur Sam Altman in 2015 as a non-profit research entity, funded by donations from the likes of Elon Musk, with a mission to “advance digital intelligence in the way that is most likely to benefit humanity as a whole, unconstrained by a need to generate financial return ”. Но след няколко години Алтман заключи, че задачата ще изисква по-скъпа изчислителна мощ, в сравнение с може да бъде финансирана единствено посредством филантропия.

Така през 2019 година Openai основава бизнес с облага, с неповторима конструкция. Търговските инвеститори-сред които Microsoft стана елементарно най-големите-биха наложили рестриктивните мерки си на облагите си, като всички облаги над това равнище текат към нестопанската цел. Най-важното е, че бордът на нестопанската цел ще поддържа надзор върху работата на облагата, като задачата, ориентирана към човечеството И въпреки всичко Microsoft и други вложители се оказаха искащи да дават финансирането, което даде опция на Openai да зашемети света с стартирането на Chatgpt.

По-скоро обаче вложителите показват безпокойствие с настройката-по-специално в Япония SoftBank, който ще се насочи към структурното разклащане. Рестриктивна конструкция на ръководство. Нестопанската цел към този момент няма да има надзор върху бизнеса с облага. Вместо това, той ще се класира като акционер на гласоподаване дружно с останалите вложители и ще употребява възможния си приход от бизнеса, с цел да „ преследва благотворителни начинания в браншове като опазване на здравето, обучение и просвета “.

Планът провокира опустошително отворено писмо от разнообразни AI Luminaries, призовавайки държавните чиновници да подхващат дейности поради това, което споделиха, че са били нарушавания на самоуправлението. Най -важното, означиха, че проектът през декември щеше да отстрани „ изпълняващото се обвързване, дължимо на обществеността “, с цел да се подсигурява, че AI се възползва от човечеството, което беше вкарано в правната конструкция на организацията през цялото време.

Тази седмица Openai разгласява преразгледан проект, който преглежда доста от терзанията на критиците. Основното нанагорнище е над силата на борда с нестопанска цел, която ще резервира цялостния надзор на бизнеса с облага. Openai възнамерява да продължи напред, като премахването на рестриктивните мерки на облагата за своите търговски вложители.

Остава да се види дали този компромис е задоволителен, с цел да задоволи вложителите като Microsoft и SoftBank. Във всеки случай Openai може рационално да твърди, че е поддържал доста по-трудни ограничавания за своята работа, в сравнение с Arch-съперник DeepMind. Когато основаната в Лондон компания се разпродаде на Гугъл през 2014 година, нейните създатели осигуриха заричане, че работата му ще бъде следена от законно самостоятелен съвет по нравственос, както споделя Парми Олсън в книгата си. Но този проект скоро беше изнемощял. „ Мисля, че евентуално имахме леко прекомерно идеалистични възгледи “, сподели съоснователят на DeepMind Демис Хасабис пред Олсън.

някакъв идеализъм в ранен стадий към момента следва да бъде открит в Anthropic, стартиран през 2021 година от чиновниците на Openai, които към този момент се тормозиха от дрейфа на тази организация от основата си задача. Anthropic сътвори самостоятелен „ Дългосрочно доверие на компенсациите “ с мандат за поощряване на интереса на човечеството като цяло. В рамките на четири години доверието ще има пълномощието да назначи по -голямата част от борда на антропика.

Антропиката е структурирана като корпорация за социална изгода, което значи, че неговите шефове са законно задължени да преглеждат ползите на обществото, както и на акционерите. XAI на Musk също е PBC, а бизнесът с облага на Openai ще стане подобен под препоръчаното преструктуриране.

На процедура обаче структурата на PBC постанова малко по пътя на рестриктивните мерки. Only significant shareholders — not members of the wider public — can take action against such companies for breaching their fiduciary obligations to wider society.

And while the preservation of the non-profit body’s control at OpenAI might look like a major win for AI safety advocates, it’s worth remembering what happened in November 2023. After the board fired Altman over concerns about his adherence to OpenAI’s guiding principles, it faced a staff and Инвеститорският протест, който приключи с възвръщаемостта на Алтман и излизането на множеството шефове.

In short, the power of the non-profit board, with its duty to humanity, was put to the test — and shown to be minimal.

Two of those departed OpenAI directors warned in an Economist op-ed last year that AI start-ups’ self-imposed constraints “cannot reliably withstand the pressure of profit incentives ”.

“For the rise of AI to benefit everyone, governments Сега би трябвало да стартира построяването на ефикасни регулаторни рамки “, написа Хелън Тонер и Таша Маккаули. В Съединени американски щати обаче софтуерните фигури като Марк Андресен са постигнали огромен прогрес със своята акция против регулирането на AI, а администрацията на Тръмп е алармирала за дребен вкус за стеснен надзор.

Случаят за контролиране се ускорява от възходящите доказателства за капацитета на АИ да утежни расовото и неравенството сред пора в пазара на труда и оттатък. Дългосрочните опасности, показани от все по-мощен ИИ, могат да се окажат още по-сериозни. Много от водещите числа в бранша - в това число Алтман и Хасабис - подписаха изказване от 2023 година, предупреждаващо, че „ смекчаването на риска от изгубване от AI би трябвало да бъде световен приоритет “.

Ако водачите на АИ бяха заблудени за силата на техните изобретения, може да няма потребност да се притеснявате. Но защото инвестицията в това поле продължава да гъби, това би било обривно съмнение.

Smart Readings

рискова зона световното стопляне надвишаваше 1,5c в прага в 21 от разстояние от 22 месеца. Американските чиновници приканват международните финансови управляващи да мащабират водещ план за риск от климата според Комитета на Базел за банков контрол.