Казус от бизнес училище за преподаване: рискове от надпреварата във въоръжаването с изкуствен интелект
Прабхакар Рагхаван, ръководител на търсачката на Google, се подготвяше за пускането в Париж на своя дългоочакван чатбот с изкуствен интелект през февруари миналата година, когато получи някои неприятни новини.
Два дни по-рано неговият главен изпълнителен директор Сундар Пичай се похвали, че чатботът Bard „черпи информация от мрежата, за да предостави свежи, висококачествени отговори“. Но часове след като Google публикува кратък gif видеоклип в Twitter, демонстриращ Бард в действие, наблюдатели забелязаха, че ботът е дал грешен отговор.
Отговорът на Бард на „Какви нови открития от космическия телескоп Джеймс Уеб ( JWST) мога ли да разкажа на 9-годишното си дете за?“ беше, че телескопът е направил първите снимки на планета извън слънчевата система на Земята. Всъщност тези изображения са генерирани от Много големия телескоп на Европейската южна обсерватория преди почти две десетилетия. Това беше грешка, която навреди на доверието в Bard и изтри 100 милиарда долара от пазарната стойност на компанията майка на Google, Alphabet.
Инцидентът подчерта опасностите в надпреварата с високо натиск във въоръжаването около AI. Има потенциала да подобри точността, ефективността и вземането на решения. Въпреки това, докато от разработчиците се очаква да имат ясни граници за това, което ще правят, и да действат отговорно, когато предлагат технология на пазара, изкушението е да се даде приоритет на печалбата пред надеждността.
Генезисът на надпреварата във въоръжаването с изкуствен интелект може да бъде проследен назад до 2019 г., когато главният изпълнителен директор на Microsoft Сатя Надела осъзнава, че захранваната с изкуствен интелект функция за автоматично попълване на Google в Gmail става толкова ефективна, че собствената му компания е на рискът да останете изостанали в разработването на AI.
Изпробвайте себе си
Тази статия е част от колекция от ' проучване на бизнес предизвикателства. Прочетете материала, след което обмислете въпросите в края.
За автора: Дейвид Де Кремър е декан на семейство Дънтън и професор по мениджмънт и технологии в D'Amore-McKim Училище по бизнес към Североизточния университет в Бостън. Той е автор на „The AI-Savvy Leader: 9 ways to take back control and make AI work“ (Harvard Business Review Press, 2024).
Технологичен стартъп OpenAI, който се нуждаеше от външен капитал, за да осигури допълнителни изчислителни ресурси, предоставена възможност. Надела тихо направи първоначална инвестиция от 1 милиард долара. Той вярваше, че сътрудничеството между двете компании ще позволи на Microsoft да комерсиализира бъдещите открития на OpenAI, карайки Google да „танцува“ и да изяде доминиращия му пазарен дял. Скоро се оказа прав.
Бързото интегриране на Microsoft на ChatGPT на OpenAI в Bing отбеляза стратегически преврат, проектирайки образ на технологично надмощие над Google. В опит да не бъде изоставен, Google побърза да пусне свой собствен чатбот – въпреки че компанията знаеше, че Bard не е готов да се конкурира с ChatGPT. Неговата прибързана грешка струва на Alphabet 100 милиарда долара пазарна капитализация.
В днешно време изглежда, че преобладаващият начин на действие в технологичната индустрия е късогледа фиксация върху пионерския все по-сложен AI софтуер. Страхът от пропускане принуждава компаниите да бързат да пуснат незавършени продукти на пазара, пренебрегвайки присъщите рискове и разходи. Meta, например, наскоро потвърди намерението си да удвои надпреварата във въоръжаването с ИИ, въпреки нарастващите разходи и почти 12-процентния спад в цената на акциите.
Изглежда има явна липса на целенасочени инициативи, като фокусът върху печалбата засенчва съображенията за обществено благоденствие. Tesla побърза да пусне своите базирани на AI функции „Напълно самостоятелно шофиране“ (FSD), например, с технология, която не е близо до зрелостта, необходима за безопасно внедряване по пътищата. FSD, с невнимание на водача, е свързано със стотици катастрофи и десетки смъртни случаи.
Бизнес обучение AI вече променя ръководството — компаниите трябва да решат колко новиВ резултат на това Tesla трябваше да изтегли повече от 2 милиона превозни средства поради проблеми с FSD/автопилот. Въпреки идентифицираните опасения относно способността на драйверите да отменят необходимите софтуерни актуализации, регулаторите твърдят, че Tesla не е направила тези предложени промени част от изтеглянето. ”. Например две нови преносими джаджи, базирани на GenAI, Rabbit R1 и Humane AI Pin, предизвикаха обратна реакция, обвинени, че са неизползваеми, скъпи и не решават никакъв значим проблем.
За съжаление, тази тенденция няма да се забави: водени от желанието да се възползват възможно най-бързо от постепенните подобрения на ChatGPT, някои стартъпи бързат да пуснат „така си“ хардуерни устройства, базирани на GenAI. Те изглежда не проявяват голям интерес към това дали съществува пазар; целта изглежда е спечелването на всяка възможна налична надпревара за AI, независимо дали добавя стойност за крайните потребители. В отговор OpenAI предупреди стартиращите компании да спрат да се ангажират с опортюнистична и краткосрочна стратегия за преследване на безцелни иновации и отбеляза, че идват по-мощни версии на ChatGPT, които могат лесно да възпроизвеждат всички GPT базирани приложения, които стартиращите компании стартират .
В отговор правителствата подготвят разпоредби, които да управляват разработването и внедряването на AI. Някои технологични компании реагират с по-голяма отговорност. Скорошно отворено писмо, подписано от лидери в индустрията, подкрепи идеята, че: „Наша колективна отговорност е да правим избори, които увеличават максимално ползите от AI и смекчават рисковете, за днес и за бъдещите поколения“.
Тъй като технологът индустрията се бори с етичните и обществени последици от разпространението на ИИ, някои консултанти, клиенти и външни групи се застъпват за целенасочени иновации. Докато регулаторите предлагат подобие на надзор, напредъкът ще изисква от заинтересованите страни в индустрията да поемат отговорност за насърчаване на екосистема, която дава по-голям приоритет на благосъстоянието на обществото.
Въпроси за дискусия< /h3>
Технологичните компании носят ли отговорност за начина, по който фирмите внедряват изкуствен интелект по евентуално грешни и неетични начини?
Какви стратегии могат да следват технологичните компании, за да запазят целта си в центъра и да виждат печалбата като резултат от целта ?
Трябва ли пускането на AI на пазара да бъде по-регулирано? И ако е така, как?
Как прогнозирате, че тенденцията за надпревара към дъното ще се прояви през следващите пет до 10 години в бизнесите, работещи с AI? Кои фактори са най-важни?
Какви рискове за компаниите са свързани с това да не се присъединят към надпреварата за дъното в разработването на AI? Как тези рискове могат да бъдат управлявани чрез приемане на по-целенасочена стратегия? Какви фактори са важни в този сценарий?
