Бумът на AI стимулира търсенето на технология за охлаждане на сървъри
Пазарът на изкуствен интелект не е единственото нещо, което се загрява. Същото важи и за чиповете и сървърите, които захранват авангардната технология, стимулирайки търсенето на по-ефективни решения за охлаждане.
Тайванската Liteon Technology е един от няколкото производители на компоненти, които увеличават усилията си за разработване на решения за течно охлаждане за AI центрове за данни, тъй като потреблението на енергия се очертава като едно от най-неотложните пречки за повишаване на изчислителната производителност.
„Има много топлина, която трябва да бъде разрешена [с AI центрове за данни]“ и традиционните решения за въздушно охлаждане са не е достатъчно способен, каза Саймън Онг, асоцииран вицепрезидент на платформата и решенията за облачна инфраструктура на Liteon, пред Nikkei Asia. „[Необходимостта от] по-сложна технология за охлаждане за справяне с топлината, генерирана от системите, е неудържима.“
Центровете за данни с изкуствен интелект работят на мощни чипове за графични процесори от Nvidia и Advanced Micro Devices. Тези чипове могат да се справят с паралелни изчислителни операции, които са необходими за активиране на генеративни AI приложения като ChatGPT на OpenAI и Bard на Google.
Но техните изисквания за мощност нарастват рязко, от 400 вата за чипа A100 на Nvidia до 700 вата за своя чип H100. Следващото поколение B100 ще консумира 1000 вата електричество на чип – повече от четири пъти повече от очакваната мощност, необходима за работа на 240-ватов MacBook Air за осем часа.
Тази статия е от Nikkei Asia, глобален публикация с уникална азиатска гледна точка към политиката, икономиката, бизнеса и международните отношения. Нашите собствени кореспонденти и външни коментатори от цял свят споделят своите възгледи за Азия, докато нашата секция Asia300 предоставя задълбочено отразяване на 300 от най-големите и най-бързо развиващи се регистрирани компании от 11 икономики извън Япония.
Абонирайте се | Групови абонаменти
Експлозивното търсене на графични процесори H100 на Nvidia за обучение на AI модели помогна да се насочи вниманието към индустриите за захранване и топлинни решения, които преди бяха разглеждани като периферни области на веригата за доставки.
Тъй като потреблението на енергия на чипа нараства, генерираната топлина се превръща в критично тясно място. Температурата пряко влияе върху производителността на чипа и следователно изисква по-сложни решения за охлаждане от преди. Традиционното въздушно охлаждане, което използва главно вентилатори и тръби, не е в състояние да реши проблема с нарастващата топлина в AI сървърите, според експерти от индустрията.
Освен това технологиите за охлаждане са критични за операторите на центрове за данни, за да поддържат ефективност при ниско потребление на енергия — или PUE, мярка за това колко енергийно ефективен е един център за данни — докато технологичната индустрия се надпреварва да постигне нетни нулеви емисии.
Новите технологии за охлаждане включват течно охлаждане, което включва система от вода, която тече около сървър за по-ниски температури, и технология за потапяне, при която цяла сървърна стойка е потопена в непроводима течност.
Liteon, доставчик на Apple, HP и Dell и важен играч в захранващи и топлинни решения за инфраструктура на центрове за данни, се стреми да затвърди позицията си в решенията за течно охлаждане.
Други компании, които увеличават усилията си в тази област, включват доставчиците на термичен контрол Delta Electronics, Cooler Master Technology и Auras Technology. Дори производители на чипове като Intel и сървърни системни интегратори като Giga-Byte Technology, Inventec и Wiwynn отделят ресурси за разработване на иновативни технологии за охлаждане.
Според Liteon конвенционалните методи за охлаждане не отговарят на предизвикателството на AI. Компанията каза, че е провела сравнителни тестове на два комплекта чипове, използвайки различни термични решения.
„Открихме, че чиповете, използващи методи за въздушно охлаждане, могат да достигнат само 60 процента от своята производителност и ще имат определени опасения от прегряване, докато решенията за течно охлаждане могат да продължат да повишават изчислителната производителност до нейната оптимизация,” каза Онг. „Ако чиповете са твърде горещи, те никога няма да работят толкова ефективно и мощно, колкото работят в приемлива среда.“
Онг каза, че операторите на центрове за данни могат да поддържат ниски температури с конвенционални методи, като увеличат размера на охлаждащи ребра в сървърната стойка, но добави: „Искате ли сървърна стойка, пълна с охлаждащи ребра или пълна с чипове в толкова ограничено пространство? Разбира се, ние искаме още по-голяма изчислителна мощност.“
В бъдещето на AI изчисленията „новите технологии за течно охлаждане ще бъдат много важно решение, а не настоящите масови топлинни решения, които използват въздух за разсейване на топлината , които са по-евтини, но много по-бавно охлаждат повърхността“, каза той.
Крис Уей, индустриален консултант към Института за пазарно разузнаване и консултиране, каза, че AI сървърите са оборудвани с повече централни процесори и графични процесори от традиционните сървъри и че тяхната по-висока консумация на енергия стимулира натиска за надграждане на съществуващи компоненти и технологии, като охлаждане и захранвания.
„Консумацията на енергия на AI сървър нарушава границата на технологиите за въздушно охлаждане на 300 вата, стимулирайки търсенето на по-сложни и ефективни технологии за охлаждане, като водно или течно охлаждане,” каза Уей пред Nikkei Asia. през 2023 г., каза Уей, добавяйки, че MIC прогнозира проникването на AI сървъри да нарасне от 12,4 процента от цялата индустрия миналата година до 20,9 процента до 2027 г.
A от тази статия е публикувана за първи път от Nikkei Asia на 31 януари. © 2024 Nikkei Inc. Всички права запазени.
Свързани истории
Ловът за бъдещи победители в AI се разгаря сред сезон на технологичните печалби
Университетите в Токио, Сеул и Чикаго в сделка за квантов компютър
Капацитетът на VC за финансиране на стартиращи фирми в Япония скочи до рекордните $9,7 млрд.
Intel се удвоява спад в леярната, тъй като изкуственият интелект увеличава търсенето
AT&S ще започне производство на субстрат за чипове в Малайзия тази година
