Съперниците на Nvidia се прицелват в нейното софтуерно господство

Конкурентите и най-големите клиенти на Nvidia се обединяват зад инициатива, ръководена от OpenAI, за изграждане на софтуер, който ще улесни разработчиците на изкуствен интелект да се откажат от нейните чипове.

Базираната в Силициевата долина Nvidia се превърна в най-ценния производител на чипове в света благодарение на почти монопола върху чиповете, необходими за създаването на големи AI системи, но недостигът на доставки и високите цени карат клиентите да търсят алтернативи.

Създаването на нови AI чипове обаче решава само част от проблема. Въпреки че Nvidia е най-известна със своите мощни процесори, фигури от индустрията казват, че „тайният сос“ е нейната софтуерна платформа, Cuda, която позволява на чипове, първоначално проектирани за графики, да ускоряват AI приложенията.

В момент, когато Nvidia инвестира сериозно в разширяване на своята софтуерна платформа, конкуренти, включително Intel, AMD и Qualcomm, се прицелват в Cuda с надеждата да привлекат клиенти – с нетърпеливата подкрепа на някои от най-големите компании в Силиконовата долина.

Инженерите на Meta, Microsoft и Google помагат в разработването на Triton, софтуер за ефективно изпълнение на кода на широка гама AI чипове, който OpenAI пусна през 2021 г.

Дори докато продължават да харчат милиарди долари за най-новите си продукти, големите технологични компании се надяват, че Triton ще помогне да се разчупи хватката, която Nvidia има върху AI хардуера.

„По същество той нарушава блокирането на Cuda“, каза Грег Лавандър, главен технологичен директор на Intel.

Nvidia доминира на пазара за изграждане и внедряване на големи езикови модели, включително системата зад ChatGPT на OpenAI. Това повиши оценката му до над 2 трилиона долара и остави конкурентите Intel и AMD да се борят да настигнат. Тази седмица анализаторите очакват Nvidia да отчете, че последните й тримесечни приходи са се увеличили повече от три пъти на годишна база, като печалбите са се увеличили повече от шест пъти.

Но хардуерът на Nvidia се превърна в толкова гореща стока само поради придружаващия софтуер, който е разработен в продължение на почти две десетилетия, създавайки страхотен „ров“, който конкурентите се борят да преодолеят.

„Това, което Nvidia прави, за да си изкарва прехраната, не е [просто] изграждането на чипа: ние изграждаме цял суперкомпютър, от чипа през системата до връзките . . . но много важно е софтуерът,” каза главният изпълнителен директор Дженсън Хуанг на своята GPU технологична конференция през март. Той описа софтуера на Nvidia като „операционната система“ на AI.

Основана преди повече от 30 години, за да се насочи към геймърите на видеоигри, насочването на Nvidia към AI беше улеснено от нейния софтуер Cuda, който компанията създаде през 2006 г., за да даде възможност на приложения с общо предназначение да работят на нейните графични процесори.

Оттогава Nvidia инвестира милиарди долари, за да изгради стотици софтуерни инструменти и услуги, за да направи изпълнението на AI приложения на своите GPU по-бързо и по-лесно. Ръководителите на Nvidia казват, че сега наемат два пъти повече софтуерни инженери, отколкото хардуерен персонал.

„Мисля, че хората подценяват това, което Nvidia всъщност е създала“, каза Дейвид Кац, партньор в Radical Ventures, инвеститор, фокусиран върху AI.

„Те изградиха екосистема от софтуер около своите продукти, който е ефективен, лесен за използване и действително работи – и прави много сложни неща прости“, добави той. „Това е нещо, което се е развило с огромна общност от потребители за много дълго време.“

Въпреки това, високата цена на продуктите на Nvidia и дългата опашка за закупуване на най-модерното оборудване, като H100 и предстоящия „супер чип“ GB200, накараха някои от най-големите клиенти – включително Microsoft, Amazon и Мета - да търсят алтернативи или да разработят свои собствени.

Тъй като обаче повечето AI системи и приложения вече работят със софтуера Cuda на Nvidia, за разработчиците е времеемко и рисковано да ги пренапишат за други процесори, като MI300 на AMD, Gaudi 3 на Intel или Trainium на Amazon.

„Работата е там, че ако искате да се конкурирате с Nvidia в това пространство, не само трябва да изградите хардуер, който е конкурентен, но и да го направите лесен за използване“, каза Генадий Пехименко, гл. изпълнителен директор на CentML, софтуер за създаване на стартиращи фирми за оптимизиране на AI задачи, и доцент по компютърни науки в Университета на Торонто. „Чиповете на Nvidia са наистина добри, но според мен най-голямото им предимство е от страна на софтуера.“

Конкуренти като TPU AI чиповете на Google може да предложат сравнима производителност в бенчмарк тестове, но „удобството и софтуерната поддръжка правят голяма разлика“ в полза на Nvidia, според Пехименко.

Ръководителите на Nvidia твърдят, че нейната софтуерна работа прави възможно внедряването на нов AI модел на най-новите й чипове за „секунди“ и предлага непрекъснати подобрения на ефективността. Но тези предимства идват с уловка.

„Виждаме много блокиране на Cuda в [AI] екосистемата, което прави много трудно използването на хардуер, различен от Nvidia“, каза Мерием Арик, съосновател на TitanML, Лондон базирано на AI стартиране. TitanML започна да използва Cuda, но миналогодишният недостиг на GPU го накара да пренапише продуктите си в Triton. Арик каза, че това е помогнало на TitanML да спечели нови клиенти, които искат да избегнат това, което тя нарече „данък Cuda“.

Triton, чийто създател Philippe Tillet беше нает от OpenAI през 2019 г., е с отворен код, което означава, че всеки може да преглежда, адаптира или подобрява неговия код. Поддръжниците твърдят, че това дава на Triton присъща привлекателност за разработчиците в сравнение с Cuda, която е собственост на Nvidia. Triton започна да работи само с GPU на Nvidia, но сега поддържа MI300 на AMD, като скоро се планира поддръжка за Gaudi на Intel и други ускорителни чипове.

Meta, например, постави софтуера Triton в основата на своя собствено разработен AI чип, MTIA. Когато Meta пусна второто поколение на MTIA миналия месец, неговите инженери казаха, че Triton е „високо ефективен“ и „достатъчно хардуерно агностичен“, за да работи с набор от архитектури на чипове.

Разработчиците от съперниците на OpenAI като Anthropic — и дори самата Nvidia — също са работили върху подобряването на Triton, според регистрационни файлове в GitHub и разговори за инструментариума.

Triton не е единственият опит да се оспори софтуерното предимство на Nvidia. Intel, Google, Arm и Qualcomm са сред членовете на UXL Foundation, индустриален алианс, разработващ алтернатива на Cuda, базирана на платформата OneAPI с отворен код на Intel.

Крис Латнър, виден бивш старши инженер в Apple, Tesla и Google, стартира Mojo, език за програмиране за разработчици на AI, чието представяне включва: „Не се изисква Cuda“. Само малка част от световните софтуерни разработчици знаят как да кодират с Cuda и е трудно да се научат, твърди той. Със своя стартъп Modular Lattner се надява, че Mojo ще направи „драстично по-лесно“ изграждането на AI за „разработчици от всякакъв вид – не само за елитните експерти в най-големите компании за AI“.

„Днешният AI софтуер е създаден с помощта на софтуерни езици от преди повече от 15 години, подобно на използването на BlackBerry днес“, каза той.

Дори ако Triton или Mojo са конкурентни, на конкурентите на Nvidia пак ще са необходими години, за да настигнат преднината на Cuda. Анализаторите от Citi наскоро изчислиха, че делът на Nvidia в пазара на генеративни AI чипове ще намалее от около 81 процента през следващата година до около 63 процента до 2030 г., което предполага, че ще остане доминиращ за много години напред.

„Изграждането на конкурентен чип срещу Nvidia е труден проблем, но по-лесен от изграждането на целия софтуерен стек и карането на хората да започнат да го използват“, каза Пехименко.

Lavender на Intel остава оптимистично настроен. „Софтуерната екосистема ще се развива“, каза той. „Мисля, че игралното поле ще се изравни.“

Допълнителен репортаж от Камила Ходжсън в Лондон и Майкъл Актън в Сан Франциско

Последвайте ни в