數(shù)據(jù)中心自我革命的時(shí)刻到了

ChatGPT 讓所有人意識(shí)到了大模型的潛力，一場(chǎng)大模型競(jìng)賽已經(jīng)展開。而在驚嘆 AI 進(jìn)化速度的同時(shí)，越來(lái)越多的人也意識(shí)到這背后每天都在 " 燃燒 " 的算力——與 AI 摧毀人類這種科幻話題相比，如何防止數(shù)據(jù)中心變成一個(gè)個(gè)能耗黑洞，可能更加緊迫。

4 月 12 日，在 2023 英特爾可持續(xù)發(fā)展高峰論壇后，我們與英特爾以及寧暢和新華三的數(shù)據(jù)中心業(yè)務(wù)相關(guān)負(fù)責(zé)人進(jìn)行了交流，聽了聽他們?nèi)绾慰创蛥⑴c今天數(shù)據(jù)中心這場(chǎng)勢(shì)在必行的自我革命。

(資料圖片僅供參考)

受訪者分別為：

陳葆立，英特爾數(shù)據(jù)中心與人工智能集團(tuán)副總裁兼中國(guó)區(qū)總經(jīng)理；莊秉翰，英特爾市場(chǎng)營(yíng)銷集團(tuán)副總裁、中國(guó)區(qū)數(shù)據(jù)中心銷售總經(jīng)理兼中國(guó)區(qū)運(yùn)營(yíng)商銷售總經(jīng)理；秦曉寧，寧暢總裁；劉宏程，新華三集團(tuán)計(jì)算存儲(chǔ)產(chǎn)品線副總裁。

以下為經(jīng)整理后的問(wèn)答實(shí)錄。

Q：ChatGPT 帶來(lái)的算力需求背后，數(shù)據(jù)中心的能源問(wèn)題如何解決。

陳葆立：其實(shí) AI 的火爆過(guò)去幾年已經(jīng)出現(xiàn)過(guò)好幾次了，近幾個(gè)月 ChatGPT 又出現(xiàn)在更多大眾視線中。它背后需要大量不同的 CPU、GPU 來(lái)支持 AI 的訓(xùn)練和推理，計(jì)算量正在大幅提升。對(duì)英特爾來(lái)說(shuō)，這并不影響我們整個(gè)規(guī)劃的初衷。從我們的路線圖上可以看到，核數(shù)正在飛速增長(zhǎng)，從現(xiàn)在第四代至強(qiáng)擁有的 50 個(gè)核、60 個(gè)核，在一兩年之后，很快會(huì)增長(zhǎng)到 100 個(gè)核、200 個(gè)核。所以在同樣一個(gè)數(shù)據(jù)中心的設(shè)計(jì)當(dāng)中，它的高密度、核數(shù)，以及性能都是大幅度提升的。我們提前與眾多生態(tài)伙伴進(jìn)行包括冷板以及浸沒(méi)式液冷的創(chuàng)新和研究，就是因?yàn)樵谒懔θ绱思械那闆r下，數(shù)據(jù)中心的設(shè)計(jì)勢(shì)必要經(jīng)歷巨大的演進(jìn)。

秦曉寧：能耗問(wèn)題的解決，需要在芯片層面、系統(tǒng)層面，甚至于整體機(jī)房的結(jié)構(gòu)設(shè)計(jì)層面進(jìn)行綜合考慮。例如，從室外機(jī)柜散熱的優(yōu)化，到機(jī)柜內(nèi)側(cè)的系統(tǒng)平臺(tái)設(shè)計(jì)，到不管是冷板還是浸沒(méi)式液冷，是一套完整的解決方案。

Q：是否會(huì)存在短期對(duì)算力的追求大過(guò)對(duì)綠色算力的投入，反而讓數(shù)據(jù)中心的變革走了回頭路。

莊秉翰：不管是否出現(xiàn) ChatGPT 的應(yīng)用，液冷技術(shù)對(duì)基于新一代處理器的服務(wù)器而言是一個(gè)發(fā)展方向，而且此前曾有數(shù)據(jù)顯示其會(huì)有約 30% 的復(fù)合年增長(zhǎng)率。同時(shí)，ChatGPT 反而會(huì)加速液冷的發(fā)展，基本上所有 OEM 伙伴都在推出基于液冷的解決方案。

此外，液冷技術(shù)本身并不是一個(gè)特別新的技術(shù)，如何把它產(chǎn)業(yè)化是一個(gè)關(guān)鍵，在這其中英特爾就起到鏈接產(chǎn)業(yè)的作用。我們聯(lián)合生態(tài)伙伴，共同定制諸多標(biāo)準(zhǔn)，通過(guò)這些標(biāo)準(zhǔn)可以加速整個(gè)市場(chǎng)產(chǎn)業(yè)化進(jìn)程，而加速產(chǎn)業(yè)化可以降低成本，只有降低成本之后才能讓基于液冷的數(shù)據(jù)中心更加普及。傳統(tǒng)風(fēng)冷數(shù)據(jù)中心的 PUE 約在 1.4-1.5，如果通過(guò)液冷，現(xiàn)在可以做到近 1.1，這對(duì)整個(gè)能耗的改善有很明顯的作用，同時(shí)我們也可以降低數(shù)據(jù)中心對(duì)能源的需求。所以其實(shí) ChatGPT 的火爆有利于進(jìn)一步推廣液冷技術(shù)的應(yīng)用，因?yàn)槠浼铀倭苏麄€(gè)產(chǎn)業(yè)的發(fā)展，同時(shí)對(duì)于新建的數(shù)據(jù)中心，大家也更有意識(shí)地去推出節(jié)能減碳的方案。

秦曉寧：我們和英特爾一起合作了浸沒(méi)式液冷產(chǎn)品。如果說(shuō)冷板現(xiàn)在還有很多客戶想去嘗試，那么浸沒(méi)式液冷可能對(duì)客戶的挑戰(zhàn)就更大了，它的成本增長(zhǎng)不止是 10%、20%。但是跟 ChatGPT 的投入比起來(lái)，我認(rèn)為綠色可持續(xù)的節(jié)能技術(shù)，對(duì)客戶來(lái)說(shuō)反而是加速了其使用。因?yàn)檫@方面成本的增加與算力增加相比，只是一小部分，但是一旦節(jié)能技術(shù)運(yùn)用進(jìn)去之后，對(duì)未來(lái)算力的提升和運(yùn)維的降低是非常巨大的。所以現(xiàn)在來(lái)看，不管是冷板技術(shù)，或是我們跟英特爾合作的浸沒(méi)式液冷技術(shù)，在未來(lái)的可持續(xù)發(fā)展當(dāng)中，不能說(shuō)絕對(duì)領(lǐng)先，但至少是領(lǐng)先業(yè)界半步以上的。我們?cè)诤芏嗫蛻裟抢飮L試的時(shí)候，有了英特爾廣泛的客戶支撐，后續(xù)綠色節(jié)能和可持續(xù)發(fā)展技術(shù)的落地節(jié)奏會(huì)更快。

Q：新華三和寧暢如何與英特爾合作？

劉宏程：舉個(gè)來(lái)看，目前在國(guó)內(nèi)，5G 基站的能耗也是比較突出的問(wèn)題。基于此，新華三此前和英特爾及運(yùn)營(yíng)商合作時(shí)提供了創(chuàng)新的節(jié)能方案，可以幫助提供運(yùn)營(yíng)商的 5G 解決方案整體功耗降低 30%-40%，這也在很大程度上體現(xiàn)出了英特爾的技術(shù)領(lǐng)先性。同時(shí)，英特爾本身也開放合作，在最新的服務(wù)器方面，英特爾創(chuàng)新地推出電源匯流排技術(shù)（Power Corridor），通過(guò)限流板的方式，針對(duì) CPU 底座進(jìn)行設(shè)計(jì)，可以降低整個(gè)部件級(jí)的能耗。因?yàn)橛辛诉@些技術(shù)的積累，我們和英特爾的長(zhǎng)遠(yuǎn)合作是一個(gè)互利互惠的過(guò)程，共同為客戶提供更好的服務(wù)。

秦曉寧：英特爾在生態(tài)方面的建設(shè)也是非常全面的。我們做的這些創(chuàng)新產(chǎn)品，剛開始需要落地，要有一些前瞻性的客戶去選擇它、嘗試它，之后才能逐步在使用過(guò)程當(dāng)中推廣至更多的行業(yè)和客戶，而這也是英特爾的優(yōu)勢(shì)，因?yàn)樗懈餍懈鳂I(yè)標(biāo)桿性的客戶，愿意去做創(chuàng)新性的技術(shù)合作和嘗試。

此外，還有在推動(dòng)建立行業(yè)標(biāo)準(zhǔn)方面的努力。目前，許多冷板產(chǎn)品各個(gè)廠商都可以支持，但它的標(biāo)準(zhǔn)是不統(tǒng)一的，甚至快插接口大小、尺寸都不一樣。無(wú)論是從成本還是通用性的角度來(lái)看，如果沒(méi)有一家廠商來(lái)牽頭制定標(biāo)準(zhǔn)、統(tǒng)一規(guī)范，對(duì)于客戶是一件非常困擾的事情。因?yàn)槊考曳?wù)器廠商的產(chǎn)品不同，那么到了客戶的機(jī)房甚至都無(wú)法使用。這個(gè)標(biāo)準(zhǔn)一旦制定出來(lái)，我們就可以大幅度優(yōu)化方案適配的普適性，以及普惠性，并且大幅度降低后續(xù)運(yùn)維的成本。

秦曉寧：浸沒(méi)式液冷目前多為小批量嘗試，因?yàn)槠涑跗诔杀据^高。但今年 3 月 15 日英特爾攜手業(yè)界多家生態(tài)伙伴剛剛編纂和發(fā)布了冷板團(tuán)體標(biāo)準(zhǔn)，目前冷板的成本逐步下降，而且許多成本與量相關(guān)，冷板標(biāo)準(zhǔn)統(tǒng)一后，產(chǎn)量提升會(huì)帶來(lái)成本的下降。但相關(guān)成本的降低，不僅限于單個(gè)元器件的采購(gòu)成本上，如果從前期設(shè)計(jì)環(huán)節(jié)就將可替代性、制定標(biāo)準(zhǔn)規(guī)范等方面納入考量，未來(lái)成本將持續(xù)優(yōu)化。

誠(chéng)如陳葆立先生此前的分享，CPU 中也有很多可以進(jìn)行節(jié)能降耗的技術(shù)，如主板跟 BIOS、BMC 相配合，會(huì)在運(yùn)行過(guò)程中根據(jù)功耗進(jìn)行動(dòng)態(tài)調(diào)整，對(duì)系統(tǒng)的影響也較小。如果這種統(tǒng)一的功耗能夠控制好，將非常有助于控制成本，但現(xiàn)在這個(gè)可能是相對(duì)不可測(cè)算的。因?yàn)橘?gòu)買配件時(shí)的成本是可以看出來(lái)的，但是在動(dòng)態(tài)使用過(guò)程當(dāng)中環(huán)溫的控制，包括散熱、CPU 能耗對(duì)整個(gè)功耗的影響，其實(shí)是一個(gè)比較隱性的成本。整體而言，在持續(xù)使用的情況下，尤其是一個(gè)大型數(shù)據(jù)中心的使用過(guò)程當(dāng)中，是能夠?qū)崿F(xiàn)可觀的成本控制和節(jié)能降耗。

劉宏程：前面提到關(guān)于 ChatGPT 的應(yīng)用是否會(huì)讓液冷走回頭路，對(duì)于現(xiàn)在這個(gè)時(shí)間點(diǎn)，現(xiàn)有算力的快速發(fā)展，其實(shí)反而是促使大多數(shù)客戶快速?gòu)娘L(fēng)冷技術(shù)轉(zhuǎn)向更節(jié)能的液冷技術(shù)的重要原因。

這個(gè)不僅是客戶所面臨的問(wèn)題，也不僅是可以節(jié)能多少的問(wèn)題，而是在使用過(guò)程當(dāng)中有可能出現(xiàn)巨大空間浪費(fèi)的情況，因?yàn)榇媪繑?shù)據(jù)中心當(dāng)中無(wú)法容納新的能耗過(guò)高的設(shè)備。比如 GPU 服務(wù)器會(huì)導(dǎo)致空間的占用，以及增加數(shù)據(jù)中心的管理和運(yùn)營(yíng)費(fèi)用。比如在考慮到耗電問(wèn)題時(shí)，還要把管理耗電的費(fèi)用納入衡量體系，因此也促使更多中國(guó)客戶在快速考量更新數(shù)據(jù)中心整體設(shè)計(jì)時(shí)，轉(zhuǎn)向更節(jié)能、更先進(jìn)的液冷數(shù)據(jù)中心的方式來(lái)解決能耗和平衡的問(wèn)題。

這當(dāng)中就涉及到規(guī)模的問(wèn)題，當(dāng)用戶需求激增，整體產(chǎn)業(yè)規(guī)模即呈現(xiàn)在業(yè)界所有參與者的面前。盡管用戶規(guī)模增大，但依然面臨各自為戰(zhàn)的情況，當(dāng)由英特爾帶動(dòng)把液冷所有標(biāo)準(zhǔn)建立之后，實(shí)際上產(chǎn)業(yè)鏈所有的供應(yīng)商將用統(tǒng)一標(biāo)準(zhǔn)來(lái)實(shí)現(xiàn)互連、互操作，這能夠極大降低采購(gòu)成本以及在未來(lái)數(shù)據(jù)中心的運(yùn)維成本，讓整體液冷技術(shù)在數(shù)據(jù)中心更容易落地。有了這個(gè)標(biāo)準(zhǔn)之后，就可以快速把定制化變成標(biāo)準(zhǔn)件，成本就會(huì)快速下降。

所以，當(dāng) " 用戶需求激增→標(biāo)準(zhǔn)建立→規(guī)模效應(yīng)體現(xiàn)→整體成本自然下降 " 的循環(huán)形成之后，可以加速推動(dòng)產(chǎn)業(yè)從存量的數(shù)據(jù)中心轉(zhuǎn)向新型節(jié)能的數(shù)據(jù)中心。

Q：剛提到存量數(shù)據(jù)中心改造的問(wèn)題，現(xiàn)在有哪些解決方案？

陳葆立：的確，現(xiàn)在大量的數(shù)據(jù)中心算力是在存量數(shù)據(jù)中心中。近期我們把綠色數(shù)據(jù)中心技術(shù)框架升級(jí)到 2.0 版本，擁有高能效與高功率密度、先進(jìn)散熱技術(shù)、基礎(chǔ)設(shè)施智能化和材料 & 可循環(huán)設(shè)計(jì)四個(gè)垂直領(lǐng)域，以及 XPU、服務(wù)器、機(jī)架、數(shù)據(jù)中心四個(gè)水平方向的共 13 種關(guān)于節(jié)能減碳的方案。其中有一些是基于新數(shù)據(jù)中心的建設(shè)，比如液冷、浸沒(méi)式液冷，但同時(shí)也有專門針對(duì)存量數(shù)據(jù)中心的解決方案。

在英特爾與國(guó)內(nèi)運(yùn)營(yíng)商于 20 個(gè)省的共 420 多個(gè)機(jī)房里，通過(guò)應(yīng)用英特爾智慧節(jié)能解決方案方案，可以把存量數(shù)據(jù)中心的 PUE 從 1.49 降低到 1.38，并基于此在制冷系統(tǒng)大幅節(jié)能，實(shí)現(xiàn)了可觀的節(jié)省支出。所以，可以看出節(jié)能并不一定代表提高成本，節(jié)能也是可以幫助降低成本。而這些不僅可以應(yīng)用于存量數(shù)據(jù)中心，新的數(shù)據(jù)中心同樣適用。

Q：冷板和浸沒(méi)式液冷對(duì)整體解決方案有哪些不同的要求。目前這些液冷方案的普及，除了成本之外還有哪些制約它落地的難點(diǎn)？

陳葆立：我們主要把液冷分為冷板和浸沒(méi)式這兩種，抽象一點(diǎn)形容的話，就是天氣熱時(shí)，冷板像是 " 鋪一個(gè)涼席 "，也就是在很熱的 CPU 上鋪了一層冷板，把熱能通過(guò)冷板傳遞出去。而浸沒(méi)式液冷是 " 泡澡 "，把所有的部件泡在液體當(dāng)中，讓溫度可以降低。

除了成本之外，還有如安全、液體漏液等其他的考量。假設(shè)管道或液體突然泄漏，整個(gè)電子器件產(chǎn)生損耗如何應(yīng)對(duì)？在這個(gè)過(guò)程當(dāng)中需要大量的驗(yàn)證，這是為什么我們和諸如寧暢、新華三等很多業(yè)內(nèi)領(lǐng)先伙伴，一起做了非常多試驗(yàn)。其實(shí)很多廠家也都提供了各種不同的方案，但是我們需要大規(guī)模驗(yàn)證去證明這些應(yīng)用在液冷中的液體可以真正的安全的使用，并且不影響整個(gè)作業(yè)和服務(wù)。

所以對(duì)于英特爾而言，當(dāng)面對(duì)客戶詢問(wèn)液體是否安全，或當(dāng)他們使用某款液體時(shí)我們的 CPU 是不是依然能提供三年質(zhì)保，我們會(huì)非常有底氣回答，因?yàn)檫@是經(jīng)過(guò)大規(guī)模驗(yàn)證過(guò)的，或做過(guò)很多仿真試驗(yàn)的。我們相信它能帶來(lái)能耗的優(yōu)勢(shì)是遠(yuǎn)遠(yuǎn)大于它可能的一些耗損。

莊秉翰：簡(jiǎn)單補(bǔ)充一下，具體采用冷板或是浸沒(méi)式液冷，是需要根據(jù)客戶平衡其對(duì) PUE 和成本需求之后，做出的決策。另外，尤其是浸沒(méi)式液冷，其實(shí)對(duì)器件、和芯片本身也有一些可靠性的影響。英特爾也是第一個(gè)基于第三代和第四代至強(qiáng)可擴(kuò)展處理器，在浸沒(méi)式液冷場(chǎng)景下使用，提供一年保修服務(wù)的廠家，這也是我們?yōu)榱思铀僖豪浼夹g(shù)在產(chǎn)業(yè)鏈應(yīng)用所做的努力。

Q：今天各個(gè)行業(yè)對(duì)液冷的使用到了什么階段？

莊秉翰：整體來(lái)看，國(guó)內(nèi)幾個(gè)服務(wù)器使用的頭部行業(yè)，如互聯(lián)網(wǎng)、運(yùn)營(yíng)商、金融行業(yè)等，對(duì)液冷都已經(jīng)跳過(guò)了 POC 階段，進(jìn)入到了規(guī)模化采用的狀態(tài)。