Новото поколение чипове ще задвижи AI вълната
Някои от вас ще си спомнят дните, когато изтеглянето на филм означаваше чакане от повече от час. Днес най-новите чипове могат да изпратят повече от 160 full-HD филма по интернет за по-малко от една секунда.
Индустрията за чипове с изкуствен интелект разработи новооткрита оценка за паметта с висока честотна лента или HBM, технологията зад нея такива светкавично бързи трансфери на данни. Анализаторите някога смятаха, че е малко вероятно някога да стане комерсиално жизнеспособен, когато беше пуснат за първи път през 2013 г.
Но американските дизайнери на чипове Nvidia и AMD вдъхват нов живот на напредналата технология, която сега се превърна в критичен компонент във всички AI чипове. Най-неотложният проблем за производителите на AI чипове е непрекъснато нарастващото търсене на повече процесорна мощност и изисквания към честотната лента, тъй като компаниите бързат да разширят центровете за данни и да разработят AI системи като големи езикови модели.
Междувременно генериращите големи данни Приложенията с изкуствен интелект разширяват границите на производителността на това, което могат да предложат конвенционалните чипове с памет. По-високите скорости на обработка на данни и скорости на трансфер изискват по-голям брой чипове, които заемат повече физическо пространство и консумират повече енергия.
Досега традиционната настройка беше поставянето на чипове един до друг върху плоска повърхност, които след това се свързват с кабели и предпазители. Повече чипове означават по-бавна комуникация през тях и по-висока консумация на енергия.
HBM преобръща десетилетията конвенции в индустрията за чипове, като подрежда множество слоеве чипове един върху друг и използва най-съвременни компоненти, включително малка платка, по-тънка от лист хартия, за да опакова чиповете много по-близо един до друг в триизмерна форма.
Това подобрение е критично за производителите на AI чипове, тъй като близостта между чиповете използва по-малко енергия — HBM използва около три четвърти по-малко от традиционните структури. Изследванията също така показаха, че HBM осигурява до пет пъти по-голяма честотна лента и заема по-малко място - по-малко от половината от размера на текущите предложения.
Въпреки че технологията е напреднала, тя не е нова. AMD и южнокорейският производител на чипове SK Hynix започнаха да работят върху HBM преди 15 години, когато високопроизводителните чипове се използваха предимно в сектора на игрите.
Критиците по това време бяха скептични, че повишаването на производителността ще си струва добавените разходи. HBM използва повече компоненти, много от които са сложни и трудни за производство, в сравнение с традиционните чипове. До 2015 г., две години след старта, анализаторите очакваха HBM да бъде изместен в малка ниша. Разходите изглеждаха твърде високи за употреба на масовия пазар.
Те все още са скъпи днес, струват поне пет пъти повече от стандартните чипове памет. Разликата сега е, че AI чиповете, в които влизат, също достигат висока цена. И технологичните гиганти сега имат много по-голям бюджет, който да харчат за усъвършенствани чипове, отколкото геймърите преди десетилетие.
Засега само една компания, SK Hynix, е в състояние да произвежда масово третото поколение HBM продукти, тези, използвани в най-новите AI чипове. Той притежава 50 процента от световния пазар, докато останалата част от пазара се държи от двама конкуренти, според данни на консултантската компания TrendForce. Samsung и Micron произвеждат по-старо поколение HBM и са готови да пуснат последните си версии през следващите месеци. Те могат да спечелят неочаквани печалби от продукта с висок марж наред с бързо нарастващото търсене. През юни TrendForce прогнозира, че глобалното търсене на HBM ще нарасне с 60 процента тази година.
Войната с AI чипове е на път да засили този растеж още повече през следващата година. AMD току-що пусна нов продукт с надеждата да се справи с Nvidia. Глобалният недостиг, съчетан със силно търсене на по-достъпна алтернатива на предложенията на Nvidia, означава доходоносна възможност за конкурентите, способни да предложат чипове със сравними спецификации. Но разклащането на господството на Nvidia, ключът към което се крие не само в самия физически чип, но и в неговата софтуерна екосистема, която включва популярни инструменти за разработчици и модели за програмиране, е друга история. Възпроизвеждането на това ще отнеме години.
Ето защо хардуерът – и броят на HBM, вмъкнати във всеки нов чип – сега ще станат още по-важни за претендентите, които искат да се изправят срещу Nvidia. Увеличаването на капацитета на паметта чрез използването на подобрени HBM е един от малкото начини за постигане на конкурентоспособност в краткосрочен план. Например, най-новият ускорител MI300 на AMD използва осем HBM, повече от петте или шестте в продуктите на Nvidia.
Чиповете исторически са били циклична индустрия, склонна към драматични бумове и спадове. В настоящия си курс трайното увеличение на търсенето на нови продукти трябва да направи бъдещите спадове по-малко турбулентни, отколкото в миналото.
