【芯觀點】 數據中心大變形:看英偉達如何顛覆馮·諾伊曼架構
芯觀點──聚焦國內外產業大事件,匯聚中外名人專家觀點,剖析行業發展動態,帶你讀懂未來趨勢!
數據正在撬動我們的地球,更改變著人類的各個小世界——制造、工業、商業、醫療、教育……所有的行業都在經歷前所未有的智能化重塑。
數據作為重要的資源和生產要素,已經成為世界范圍內的共識。而這一切背后的支點——數據中心——計算和存儲數據的區域,必將是未來科技企業角逐的圣地。
如今,這個“支點”也必須面臨大變革。
因為隨著AI、機器學習等應用的深入所帶來的數據大爆炸,對算力提出了更高要求。據IDC統計,全球算力的需求每3.5個月就會翻一倍,遠遠超過了當前算力的增長速度。在此驅動下,全球計算、存儲和網絡基礎設施必須發生根本轉變。
“數據中心目前正進行一場變革,即從馮·諾依曼架構的數據中心轉向以數據為中心的架構。”英偉達網絡事業部亞太區市場開發高級總監宋慶春表示,而其背后的原因很簡單,數據大爆炸,原來的馮·諾伊曼架構下,將數據輸送至服務器的CPU芯片中進行計算的方式逐漸難以招架。
以數據為中心的新架構
以馮·諾依曼架構為基礎的數據中心里,所有的計算會以CPU或GPU為中心,即所用的數據需傳送到CPU或GPU上。基于兩者強大的算力,這樣的架構解決了數據中心計算性能的問題。
這就是x86雙雄:英特爾與AMD的角逐之地,作為老牌計算芯片,服務器仍舊是CPU的主場。英特爾也很快意識到在數據爆炸的當下,無論是云端還是邊緣服務器,越來越多的廠商都開始通過AI來加速數據處理,而CPU并不是執行此類運算的最佳載體。
因而在第一代至強可擴展處理器開始英特爾便引入AVX-512指令集,隨后第二代又引入深度學習加速技術,到了最新的第三代進一步對軟硬件整體進行優化。而AMD憑借先進工藝,和高核心數量正逐步侵占英特爾的地位。
另一邊對著數據中心虎視眈眈的英偉達,除了繞開x86的險地,推出Arm架構的CPU外,圍繞手上的三U體系,英偉達對數據中心的計算架構提出了新的見解。
不過,英偉達選擇了新的道路:讓計算圍繞數據因地制宜。
宋慶春指出,數據在網絡通信過程中,很多通信模型會制約整個系統性能的發展,用傳統的馮·諾依曼架構的計算模型就會造成網絡擁塞。無論是提升帶寬還是降低延遲都無法解決這一問題,如何繼續提升數據中心的性能成了業界面臨的新挑戰。
以數據為中心的新架構就此被提出。宋慶春解釋,新架構的特征是數據在哪,計算就在那:當數據在GPU上,計算就在GPU上;當數據在網絡中傳輸時,計算就在網絡中。
通過這樣的方式即可解決網絡傳輸中的丟包問題或其他瓶頸。新架構可以使通訊延時降低10倍以上,因而網絡計算成為現在以數據為中心的架構的關鍵技術之一。
但這場變革需要幫手,因為圍繞數據密集型應用已進入多芯片融合時代,CPU、GPU、FPGA等已入列,被譽為繼CPU、GPU后的第三顆算力芯片——DPU,將成為這場變革的關鍵因素。
DPU扮演何種角色?
DPU即Data Processing Unit,是面向數據中心的基礎架構處理器。“DPU就是做那些CPU做不好,GPU做不了的計算任務。”中科院計算所研究院、中科馭數創始人兼CEO鄢貴海曾對表示,“作為最新發展起來的處理器的一個大類,DPU產生的背景是數字智能時代,數據爆發導致的‘端-邊-云一體化’趨勢帶來對計算延遲、數據安全、資源虛擬化的需求。”
DPU有可能成為繼CPU和GPU之后的第三顆算力芯片,在英偉達眼中,它的出現為以數據為中心的新計算架構帶來不同的思路,它的到來解放了CPU和GPU的計算資源。
宋慶春表示,此前以CPU為主體的系統里,所有操作都用CPU來做。以Open vSWITCH(OVS)為例,若用CPU來運行,會占用許多CPU的資源,但包轉發率非常低,但用DPU來操作,包轉發率大幅提升,CPU的計算資源又被解放了。更值得關注的是,當用DPU運行時,實現了業務和基礎設施操作的分離,大幅降低了長尾延時。
在去年宣布推出DPU芯片時,英偉達創始人黃仁勛就表示,數據中心已成為新型計算單元,在現代化、安全的加速數據中心中,DPU已成為其重要的組成部分。CPU、GPU和DPU的結合,可構成完全可編程的單一AI計算單元,提供前所未有的安全性和算力。
在今年的GTC大會上,英偉達又迎來自己DPU產品線BlueField的新迭代。
作為業內首款400G以太網和NDR InfiniBand DPU,BlueField-3具有出色的網絡性能。相比上一代產品,它具有5倍加速計算能力、16個Arm A78 CPU核,和4倍的加密速度。BlueField-3也是首款支持第五代PCIe總線并提供數據中心時間同步加速的DPU。BlueField-3可為NVIDIA Morpheus提供實時的網絡可視化、網絡威脅的檢測與響應,以及監控、遙測和代理服務,Morpheus是一個先進的基于AI的云原生網絡安全平臺。此外,BlueField-3利用NVIDIA DOCA(集數據中心于芯片的架構)軟件開發包的優勢,為開發者提供一個完整、開放的軟件平臺,開發者可在BlueField DPU上開發軟件定義和硬件加速的網絡、存儲、安全和管理等應用。
黃仁勛在GTC上表示:“現代超大規模云技術推動數據中心從基礎上走向了新的架構,利用一種專門針對數據中心基礎架構軟件而設計的新型處理器,來卸載和加速由虛擬化、網絡、存儲、安全和其它云原生AI服務產生的巨大計算負荷。BlueField DPU正是為此而生。”
DPU的應用生態系統正逐步建立,領先的服務器制造商戴爾、浪潮、聯想和超微正在將BlueField DPU集成到他們的系統中。全球云服務供應商都在使用BlueField DPU來加速他們的業務,如百度、京東和UCloud。
以UCloud為例,據UCloud資深技術專家馬彥青介紹,從2018年起,UCloud 便開始積極探索基于BlueField DPU的高性能裸金屬物理云方案,并在去年上半年成功上線裸金屬物理云1.0。通過DPU集成的多核ARM CPU快速將物理云基礎架構軟件從x86遷移到DPU中,滿足了物理云客戶高帶寬、低延時的網絡需求。裸金屬物理云2.0繼承了1.0版本的優點,在取代原先傳統物理云獨立網關的模式,打通公有云網絡的同時,內網帶寬也實現了升級,采用bonding后可達到40Gbps水平。經測試,裸金屬云盤可以達到約40萬IOPS的高吞吐,真正實現靈活性與性能的兼顧。
他表示,選用DPU的初衷既是為了解決網絡性能的瓶頸問題,也是為了降低成本。
在GTC 2021上,黃仁勛在接受在內的媒體群訪時表示,未來屬于零信任、云原生、高計算性能的數據中心,最終也是在一個強大的芯片上建立前沿數據中心。DPU與GPU的結合將會非常重要,在將來會看到數以億計的服務器級別的電腦在全球鋪設開。
多芯片融合時代的到來
“X”PU芯片的應運而生,作為服務器領域的常年霸主,英特爾也不得不面對并承認這個事實。在第三代志強發布會上,英特爾表示,過去一年,英特爾也一直在轉型,從一家CPU公司轉型為一個XPU平臺公司,X代表很多不同的產品,包括FPGA、AI加速芯片等。
另一邊,向服務器領域施展拳腳的英偉達在發布面向數據中心的CPU之后,三U陣容正蓄勢待發。而在DPU這條賽道上,除傳統巨頭外,一些初創企業如中科馭數、Pensando等也正開發DPU產品。
宋慶春對指出,數據中心已進入多芯片融合時代,在大部分數據中心里都有GPU的身影。未來的數據中心會以AI為核心,AI正成為數據中心里非常關鍵的技術。對于英偉達而言,未來的數據中心走向3U一體的架構后,為計算帶來非常理想的優化空間,可根據計算類型為其分配最優的算力芯片,從而構建性能最佳的數據中心。
隨著DPU的崛起,數據中心成為了新的計算單元,囊括計算、存儲、通信各單元,甚至到未來會實現從單芯片到超級計算機的統一架構。“未來CPU、GPU、DPU之間的關系即是如何合理分配數據計算的位置,實現多芯片融合計算的最佳拍檔。”宋慶春說道。
(Sharon)
,歐弟二胎得女,希臘防長辭職,dangal http://www.cityruyi.com/lm-2/lm-4/709.html- 標簽:,不花錢賺錢,大眾汽車20萬以下,三國志11劇本下載
- 編輯:馬可
- 相關文章
-
【芯觀點】 數據中心大變形:看英偉達如何顛覆馮·諾伊曼架構
芯觀點──聚焦國內外產業大事件,匯聚中外名人專家觀點,剖析行業發展動態,帶你讀懂未來趨勢! 數據正在撬動我們的地球,更改變著人類的…
-
【每日收評】集微指數漲0.03% 有研新材靶材相關產線滿產
A股三大指數今日集體小幅收漲,日K線齊收四連陽。滬指收盤上漲0.80%,收報3557.41點;深證成指上漲0.38%,收報14696.29點;創業板指上漲0.…
- 【IPO價值觀】江波龍境外采購占9成,主要封裝廠京元電陷入停工危機
- 晶瑞股份:半導體光刻膠、高純試劑等產品產銷兩旺
- 華天科技:51億元定增申請獲中國證監會受理
- 晶振市場現狀:32.768K晶振為王,得溫補者得天下
- 【IPO價值觀】核心業務下滑致英集芯營收增速減緩:凈利潤靠政府補助支撐