Дали течното охлаждане е най-доброто решение за охлаждане за AI сървъри?

 

I Традиционното въздушно охлаждане е претоварено; Появява се технологията за течно охлаждане

 

Трите стълба на AI са чипове, изчислителна мощност и алгоритми. Чиповете и изчислителната мощност са двигателите на производителността и за да постигнат изключителна изчислителна мощност, хората непрекъснато търсят по-бързи процесори и по-ефективен хардуер. Тъй като изчислителната мощност на AI се увеличава и производителността на процесорите и графичните процесори се подобрява, консумацията на енергия на чиповете и генерирането на топлина нарастват съответно. Например GPU чиповете от серията H200 на NVIDIA имат TDP (Thermal Design Power) до 700 W.

 

Традиционното въздушно охлаждане има своите граници. Принципът на въздушното охлаждане е да позволи на въздуха да тече по повърхността на радиаторите, за да разсейва топлината. В момента най-добрите въздушни охладители на пазара могат да издържат до 275 W мощност. Традиционното въздушно охлаждане вече не може да отговори на изискванията за охлаждане на основните AI сървъри.

 

Появи се технология за течно охлаждане. Принципът на течното охлаждане е да циркулира течна охлаждаща течност в сървъра, абсорбирайки топлината от генериращите топлина компоненти чрез топлообмен. Течното охлаждане предлага по-висока ефективност на охлаждане и позволява прецизен контрол на охлаждащата течност, за да се адаптира към различни работни среди, въпреки че идва с по-високи разходи.

 

Течното охлаждане получи официално признание. През юни 2023 г. трите големи телекомуникационни оператора в Китай съвместно издадоха „Бяла книга за технологията за течно охлаждане за телекомуникационни оператори (2023 г.)“, като ясно популяризират два технически маршрута: течно охлаждане със студена плоча и еднофазно течно охлаждане с потапяне. Те също така очертаха план за промоция за 2023-2025:

 

▲ Промоционален план за 2023-2025

 

 

II Какво е течно охлаждане?

 

Течното охлаждане е метод за охлаждане, който използва течност като охлаждаща течност за пренос на топлината, генерирана от вътрешните компоненти на ИТ оборудването в центровете за данни навън, като гарантира, че генериращите топлина части на ИТ оборудването работят в безопасен температурен диапазон. Основните решения за течно охлаждане се разделят главно на типове студена плоча и потапяне. Потопяемото течно охлаждане може допълнително да бъде разделено на охлаждане с потапяне с промяна на фазата и охлаждане без промяна на фазата, в зависимост от това дали охлаждащата течност претърпява фазова промяна.

 

▲ Технология за течно охлаждане

 

Течното охлаждане на студената плоча работи чрез използване на радиатор, изработен от метали като мед или алуминий, които имат добра топлопроводимост. Топлината, генерирана от компонентите, се прехвърля към течния охладител в радиатора, който след това отвежда топлината.

 

Течното охлаждане с потапяне е метод за течно охлаждане с директен контакт, при който ИТ оборудване, като сървъри (включително процесори, памет, I/O и т.н.), е напълно потопено в охлаждащата течност. Охлаждането става чрез циркулацията на течността. Технологията за охлаждане с потапяне с промяна на фазата, която се развива бързо, работи чрез охлаждане на компонентите, генериращи топлина, което кара охлаждащата течност да се изпари и след това кондензира парата обратно в течна форма за повторна употреба. Този метод предлага по-висока ефективност на охлаждане и по-нисък шум.

 

 

III Трябва ли всички решения за охлаждане на сървъри да бъдат заменени с течно охлаждане?

 

Очевидно не. Методите за охлаждане на центъра за данни включват както принудително въздушно охлаждане, така и течно охлаждане. Докато технологията за въздушно охлаждане е сравнително зряла, течното охлаждане е по-ново изискване, което се дължи на увеличените нужди от охлаждане на центровете за данни през последните години.

 

В момента центровете за данни имат предимно три решения за охлаждане:

1. Проектиране на нови центрове за данни, които разчитат единствено на течно охлаждане, създаване на по-малки, по-ефективни центрове за данни с огромна изчислителна мощност.

2. Проектиране на центрове за данни, които използват предимно въздушно охлаждане, но включват опции за течно охлаждане за опростяване на бъдещи преходи.

3. Операторите на центрове за данни интегрират течно охлаждане в съществуващи съоръжения с въздушно охлаждане, често частично преобразувайки системите за въздушно охлаждане към течно охлаждане.

 

▲ Препоръчителни методи за охлаждане за различни типове центрове за данни

 

 

 

IV Пред какви предизвикателства е изправено течното охлаждане?

 

1. Проблеми с разходите

Цената на системите за течно охлаждане включва високи разходи за материали (охлаждаща течност, радиатори, тръбопроводи и т.н.), както и сложността на проектирането и производството, високите разходи за монтаж и поддръжка и необходимостта от по-големи инвестиции за постигане на висока надеждност.

 

2. Проблеми с надеждността

 

Стабилност:Химическата стабилност на течния охлаждащ агент може да е недостатъчна, което води до разграждане, окисляване или производство на вредни вещества по време на употреба, което засяга охлаждащия ефект и стабилността на системата.

 

Теч:В случай на течове на течности, запушвания на тръбопроводи или други инциденти, съществуващите индиректни системи за течно охлаждане може да не успеят да открият грешки навреме, което компрометира безопасността на сървъра.

 

Съвместимост:Част от оборудването на центъра за данни може да не е подходящо за системи за течно охлаждане, което изисква допълнителна адаптация и модификация.

 

 

V Какви са индустриите нагоре и надолу по веригата в течното охлаждане?

 

Екосистемата на индустрията за течно охлаждане включва доставчици на компоненти нагоре по веригата, доставчици на сървъри с течно охлаждане в средата на веригата и потребители на компютърни мощности надолу по веригата, с фокус върху системите за студено плоча и потопяеми системи за течно охлаждане.

 

▲ Принцип на системата за течно охлаждане Cold Plate

 

▲ Принцип на системата за потопяемо течно охлаждане

 

 

1. Нагоре по течението

 

▲ Преди системата за течно охлаждане Cold Plate
 

Системата за течно охлаждане Cold Plate се състои главно от CDU, източник на студ, охлаждаща течност, тръбопроводи за течно охлаждане и шкаф за течно охлаждане. Системата за потопяемо течно охлаждане се състои главно от CDU, източник на студ, тръбопроводи за течно охлаждане, потапяща камера, ИТ оборудване и охлаждаща течност.

 

Охлаждащ разпределителен модул (CDU)

CDU се използва за топлообмен между високотемпературната охлаждаща течност от вторичната страна и източника на студ от първичната страна, като осигурява разпределение на охлаждането за ИТ оборудване с течно охлаждане и управлява мониторинг на температурата, налягането и потока. Има функции като топлообмен, циркулация, пречистване на охлаждащата течност и съхранение на течности. CDU се състои основно от топлообменник/кондензатор, циркулационна помпа, филтър, резервоар за съхранение на течности и аксесоари (клапани, тръбопроводи, съединители, сензори и др.).

 

Студен източник

Външният източник на студ на системата за течно охлаждане може да бъде избран въз основа на условията от сухи охладители, затворени охладителни кули или чилъри.

 

Тръбопроводи за течно охлаждане

Тръбопроводите са необходими компоненти, които свързват топлообменната студена плоча, охлаждащия разпределителен модул, топлообменния модул и външния източник на студ. Като цяло, циркулационните тръбопроводи могат да бъдат разделени на типове директна връзка (асинхронна) и верига (синхронна) въз основа на техните различни методи на свързване.

 

охлаждаща течност

Обичайните охлаждащи течности за системи със студени пластини включват вода, етиленгликол, пропиленгликол и др. Тези охлаждащи течности имат висок специфичен топлинен капацитет и нисък вискозитет, което им позволява бързо да абсорбират топлината, генерирана от оборудването, и да я прехвърлят към топлообменника за разсейване.

 

Обичайните охлаждащи течности за потапяне (изолиращи) включват минерално масло, флуоровъглеродни съединения и т.н. Сред тях охлаждането с промяна на фазата може да използва само незапалими флуоровъглеродни съединения. Съвместимостта между охлаждащата среда и материалите на различните компоненти е един от ключовите фактори, влияещи върху производителността на потапящата система за течно охлаждане с фазова промяна.

 

Понастоящем има няколко вида флуорирани течности, налични за охлаждане с промяна на фазата чрез потапяне, като основният доставчик е 3M. Потопяемото течно охлаждане в Китай все още е в начален стадий.

 

Запечатана камера

Камерата се използва за задържане на охлаждащата течност с фазова промяна. Камерата трябва да бъде запечатана при студената плоча, тръбопроводите, съединителите и други части, за да се осигури безопасност без изтичане, като по този начин се гарантира целостта на захранването и предаването на сигнала и безопасността на центъра за данни. Следователно са необходими персонализирани уплътнителни компоненти, като гумени уплътнения, съединители за изход за течности, съединители за захранване, съединители за сигнали и др.

 

Шкаф за течно охлаждане

Шкафът за течно охлаждане се състои главно от плоча за течно охлаждане, колектор, тръбопроводи, съединители, бързи съединители, разпределител на течност и допълнителен компресор.

 

Плочата за течно охлаждане действа като топлопреносна единица, еквивалентна на изпарителя в хладилна система, и е ключова технология, предназначена за хладилната система. Обикновено се състои от покриваща плоча, перки, основна плоча и уплътнение.

Колекторът е устройство, което свързва разпределителния модул за охлаждане със студената плоча на сървъра за течно охлаждане. Обикновено вграден в шкафа, той равномерно разпределя потока на охлаждащата течност към всеки слой на студената плоча и събира охлаждащата течност, след като абсорбира топлината, като я изпраща през свързващи тръби към охлаждащия разпределителен модул.

 

Бързият съединител се състои от основно тяло и краен терминал. Основното тяло е основната единица за постигане на функциите за свързване и уплътняване на течния бърз конектор, докато крайният терминал служи като инсталационен порт за монтиране и закрепване на течния бърз конектор.

 

Система за контрол

Системата за управление следи и регулира работата на охладителната система, включително сензори за температура и налягане, които измерват разсейването на топлината и регулират скоростта на помпата или дебита на охлаждащата течност.

 

Уреди за филтриране и пречистване

Филтрите се използват за отстраняване на остатъци и частици от течната охлаждаща течност, осигурявайки производителност и дълъг живот на системата. Методи като UV стерилизация или химическа обработка могат да пречистят охлаждащата течност.

 

2. Средно течение

Средният поток се състои предимно от системи за течно охлаждане, където ключови компоненти като радиатори, помпи, тръби и охлаждащи течности са интегрирани в една система. Тези компании изискват определено ниво на техническа експертиза и производствен капацитет, за да осигурят качество и производителност на продуктите.

 

3. Надолу по течението

Потребителите на изчислителна мощност надолу по веригата включват центрове за данни, суперкомпютри, AI сървъри, електронни устройства, нови енергийни превозни средства, лазери, инвертори и друго индустриално оборудване. Технологията за течно охлаждане се използва дори в космическата област. Благодарение на своите високоефективни характеристики на охлаждане, центровете за данни с течно охлаждане и тяхната инфраструктура се прилагат главно във високопроизводителни компютърни области. В момента индустриите, използващи технология за течно охлаждане, включват интернет, финанси, телекомуникации, енергетика, биология и здравеопазване.

 

Сред тях интернет е основният клиент на центрове за данни с течно охлаждане, със значително търсене на данни, широка потребителска база и големи бизнес обеми. Изискванията за изчислителна мощност за центрове за данни са високи, като плътността на мощността на един шкаф надвишава 10kW.

 

 

VI На какъв етап е индустриализацията на течното охлаждане?

 

Понастоящем различни валидации на центрове за данни с течно охлаждане са почти завършени и през следващите три години ще видим разширяването на технологията за течно охлаждане в голям мащаб. От техническа гледна точка охлаждането със студена плоча остава основното решение за течно охлаждане на пазара; на фронта на промишленото развитие, моделът за доставка на пълен стек, от инфраструктура до оборудване с изкуствен интелект, се превърна в консенсус в индустрията; по отношение на клиентите, секторите на интернет и телекомуникациите, двата най-големи клиенти на приложения в индустрията за центрове за данни, показаха положително признание за технологията за течно охлаждане.

 

Според полугодишния отчет за 2023 г., разкрит от съответните индустриални компании, техните центрове за данни с течно охлаждане са натрупали над 260 MW капацитет, включващ множество индустрии като технологии, енергетика, правителство, финанси и интернет.

 

 

VII Колко голям е пазарът за AI Liquid Cooling?

 

Според данни от Caitong Securities размерът на пазара на центровете за данни с течно охлаждане в Китай ще нарасне от 6,999 милиарда юана през 2022 г. до над 35,877 милиарда юана през 2025 г., като размерът на пазара на течно охлаждане на AI центрове за данни ще се увеличи от 5,552 милиарда юана през 2022 г. 27,964 милиарда юана през 2025 г., което представлява общ годишен темп на растеж от 76,2%. Въз основа на продуктовата класификация, продуктите за потопяемо течно охлаждане, с тяхната по-висока ефективност на охлаждане и способността за ефективно намаляване на PUE (Ефективността на потреблението на енергия) на центровете за данни, се очаква да заемат по-голям пазарен дял, нараствайки от 18% през 2019 г. (със студена продукти за течно охлаждане на пластини, представляващи 82%) до 41% през 2025 г.

 

Тъй като пазарът изисква по-високо охлаждане и енергийна ефективност за инфраструктурата на центровете за данни, индустрията прогнозира, че степента на навлизане на продуктите за течно охлаждане ще достигне 20% до 2025 г., като пазарният дял ще се разширява непрекъснато. Пролетта на широкомащабните приложения за AI сървъри с течно охлаждане тихо наближава!

 

 

VIII Кои са добре познатите компании за течно охлаждане?

 

Основните играчи на задграничния пазар на течно охлаждане за студени плочи включват IBM, CoolIT Systems, Asetek и Motivair, докато основните играчи на пазара на течно охлаждане с потапяне са GRC, LiquidStack и Midas.