Казус от бизнес училище за преподаване: рискове от надпреварата във въоръжаването с изкуствен интелект

Прабхакар Рагхаван, началник на търсачката на Гугъл, се приготвяше за стартирането в Париж на своя дълго чакан чатбот с изкуствен интелект през февруари предходната година, когато получи някои неприятни вести.

Два дни по-рано неговият основен изпълнителен шеф Сундар Пичай се похвали, че чатботът Bard „ черпи информация от мрежата, с цел да даде свежи, висококачествени отговори “. Но часове откакто Гугъл разгласява къс gif видеоклип в Twitter, проявяващ Бард в деяние, наблюдаващи видяха, че ботът е дал неверен отговор.

Отговорът на Бард на „ Какви нови открития от галактическия телескоп Джеймс Уеб ( JWST) мога ли да опиша на 9-годишното си дете за? “ беше, че телескопът е направил първите фотоси на планета отвън слънчевата система на Земята. Всъщност тези изображения са генерирани от Много огромния телескоп на Европейската южна обсерватория преди съвсем две десетилетия. Това беше неточност, която навреди на доверието в Bard и изтри 100 милиарда $ от пазарната стойност на компанията майка на Гугъл, Alphabet.

Инцидентът акцентира заплахите в конкуренцията с високо напън във въоръжаването към AI. Има капацитета да усъвършенства точността, успеваемостта и вземането на решения. Въпреки това, до момента в който от разработчиците се чака да имат ясни граници за това, което ще вършат, и да работят отговорно, когато оферират технология на пазара, изкушението е да се даде приоритет на облагата пред надеждността.

Генезисът на конкуренцията във въоръжаването с изкуствен интелект може да бъде проследен обратно до 2019 година, когато основният изпълнителен шеф на Microsoft Сатя Надела осъзнава, че захранваната с изкуствен интелект функционалност за автоматизирано попълване на Гугъл в Gmail става толкоз ефикасна, че личната му компания е на рискът да останете изостанали в създаването на AI.

Изпробвайте себе си

Тази публикация е част от сбирка от ' изследване на бизнес провокации. Прочетете материала, след което обмислете въпросите в края.

За създателя: Дейвид Де Кремър е декан на семейство Дънтън и професор по мениджмънт и технологии в D'Amore-McKim Училище по бизнес към Североизточния университет в Бостън. Той е създател на „ The AI-Savvy Leader: 9 ways to take back control and make AI work “ (Harvard Business Review Press, 2024).

Технологичен стартъп OpenAI, който се нуждаеше от външен капитал, с цел да обезпечи спомагателни изчислителни запаси, предоставена опция. Надела безшумно направи първична инвестиция от 1 милиард $. Той вярваше, че съдействието сред двете компании ще разреши на Microsoft да комерсиализира бъдещите открития на OpenAI, карайки Гугъл да „ танцува “ и да изяде преобладаващия му пазарен дял. Скоро се оказа прав.

Бързото консолидиране на Microsoft на ChatGPT на OpenAI в Bing означи стратегически прелом, проектирайки облик на софтуерно превъзходство над Гугъл. В опит да не бъде зарязан, Гугъл побърза да пусне собствен личен чатбот – макар че компанията знаеше, че Bard не е подготвен да се конкурира с ChatGPT. Неговата прибързана неточност коства на Alphabet 100 милиарда $ пазарна капитализация.

В днешно време наподобява, че преобладаващият метод на деяние в софтуерната промишленост е късогледа фиксация върху пионерския все по-сложен AI програмен продукт. Страхът от пропускане принуждава фирмите да бързат да пуснат незавършени артикули на пазара, пренебрегвайки присъщите опасности и разноски. Meta, да вземем за пример, неотдавна удостовери желанието си да удвои конкуренцията във въоръжаването с ИИ, макар възходящите разноски и съвсем 12-процентния спад в цената на акциите.

Изглежда има очевидна липса на целенасочени начинания, като фокусът върху облагата засенчва съображенията за публично благополучие. Tesla побърза да пусне своите основани на AI функционалности „ Напълно независимо шофиране “ (FSD), да вземем за пример, с технология, която не е покрай зрелостта, нужна за безвредно внедряване по пътищата. FSD, с нехайство на лидера, е обвързвано със стотици произшествия и десетки смъртни случаи.

Бизнес образование AI към този момент трансформира управлението — фирмите би трябвало да решат какъв брой нови

В резултат на това Tesla трябваше да изтегли повече от 2 милиона транспортни средства заради проблеми с FSD/автопилот. Въпреки разпознатите опасения по отношение на способността на драйверите да анулират нужните софтуерни актуализации, регулаторите настояват, че Tesla не е направила тези препоръчани промени част от изтеглянето. ”. Например две нови портативни джаджи, основани на GenAI, Rabbit R1 и Humane AI Pin, провокираха противоположна реакция, упрекнати, че са неизползваеми, скъпи и не вземат решение никакъв важен проблем.

За страдание, тази наклонност няма да се забави: водени от желанието да се възползват допустимо най-бързо от постепенните усъвършенствания на ChatGPT, някои стартъпи бързат да пуснат „ по този начин си “ хардуерни устройства, основани на GenAI. Те наподобява не демонстрират огромен интерес към това дали съществува пазар; задачата наподобява е спечелването на всяка допустима налична конкуренция за AI, без значение дали прибавя стойност за крайните консуматори. В отговор OpenAI предизвести започващите компании да спрат да се ангажират с опортюнистична и краткосрочна тактика за гонене на безцелни нововъведения и означи, че идват по-мощни версии на ChatGPT, които могат елементарно да възпроизвеждат всички GPT основани приложения, които започващите компании започват.

В отговор държавните управления приготвят разпореждания, които да ръководят създаването и внедряването на AI. Някои софтуерни компании реагират с по-голяма отговорност. Скорошно отворено писмо, подписано от водачи в промишлеността, поддържа концепцията, че: „ Наша групова отговорност е да вършим избори, които усилват оптимално изгодите от AI и смекчават рисковете, за през днешния ден и за бъдещите генерации “.

Тъй като технологът промишлеността се бори с етичните и публични последствия от разпространяването на ИИ, някои консултанти, клиенти и външни групи се застъпват за целенасочени нововъведения. Докато регулаторите оферират сходство на контрол, напредъкът ще изисква от заинтригуваните страни в промишлеността да поемат отговорност за поощряване на екосистема, която дава по-голям приоритет на благосъстоянието на обществото.