為破解門檻高、規(guī)劃難、效率低等AI本地化部署痛點,更好地推動AI應(yīng)用賦能千行百業(yè)中小微用戶,東方超算(EAST Ai-POWER)日前正式發(fā)布CalcDone E800智算一體機,同步開啟「全網(wǎng)免費開放試用」活動。今天,我們就來詳細(xì)拆解CalcDone E800智算一體機的強大功能。CalcDone E800整機能夠提供5.2P Tensor FP16算力、1.3P FP32算力、368核心CPU、1.25TB內(nèi)存以及60TB全閃存儲。
基于測算,從單純的計算到運行模型,CalcDone E800的算力完全不遜色于國外主流品牌GPU型號,并在性價比層面極具競爭力?;谶@樣的強大配置,E800能夠承載大量復(fù)雜的計算任務(wù),作為企業(yè)的一個小型智算中心來使用。CalcDone E800開機完成后,就能在屏幕上看到軟件平臺的登錄界面,真正實現(xiàn)了免安裝、免部署,真正做到開機即用,用戶只要登錄賬號,就可以看到整體的資源情況。

依托達(dá)到全球領(lǐng)先水平的虛擬化核心技術(shù),CalcDone E800可通過算力資源拆分、靈活調(diào)配、關(guān)機釋放等方式,大幅提升內(nèi)嵌GPU資源的利用效率,以最小資源占用、最短路徑,賦能用戶業(yè)務(wù)應(yīng)用。在創(chuàng)建虛擬機時,用戶可以選擇不同資源分配策略,比如系統(tǒng)調(diào)配、指定節(jié)點或親和組。先后經(jīng)過選擇鏡像操作、配置設(shè)置、存儲設(shè)置、網(wǎng)絡(luò)配置等環(huán)節(jié),分鐘級完成虛擬機創(chuàng)建。創(chuàng)建后就可以登錄到虛擬機內(nèi)進(jìn)行使用了,在平臺上也可以對虛擬機進(jìn)行全生命周期管理。

然而,僅僅創(chuàng)建出虛擬機,還不足以充分發(fā)揮CalcDone E800的高性能算力,在真正的業(yè)務(wù)場景中,基礎(chǔ)設(shè)施層的整體效率還受到CPU、內(nèi)存、存儲等因素影響。只有各個方面都針對高性能計算場景做優(yōu)化,才能讓CalcDone E800的算力得到充分利用。
該模式直接將物理CPU透傳給虛擬機,讓虛擬機具備和物理機一樣的CPU指令集,性能最佳、兼容性最好,適合開發(fā)、編譯工作較多的場景。
同時,CalcDone E800支持針對節(jié)點開啟高性能模式,采用CPU透傳和物理CPU綁定技術(shù),避免CPU資源爭搶的同時提高虛擬機性能。
GPU直通技術(shù)由于沒有設(shè)備模擬和轉(zhuǎn)換的過程,性能損耗極小。相對于設(shè)備模擬或者GPU虛擬化技術(shù),直通設(shè)備可無損使用GPU的各項特性和功能,比如3D圖形加速渲染、視頻硬件編解碼、混合精度計算等。分布式存儲支持自定義存儲頁面,可以根據(jù)業(yè)務(wù)需求對虛擬磁盤分別進(jìn)行【4K-32K】對齊設(shè)置,讓存儲頁面與業(yè)務(wù)應(yīng)用匹配,從而提升存儲讀寫效率,獲得最佳存儲性能。在存儲優(yōu)化方面,除了在硬件層面使用SSD緩存盤,軟件層面還對讀寫I/O路徑做了深度優(yōu)化,核心機制就是引入讀寫緩存,所有的讀寫操作都是先通過本地的緩存層進(jìn)行,大幅提升整體讀寫性能。
在指定虛擬機不需要使用GPU時,可以通過關(guān)機來把GPU資源釋放出來,給其他虛擬機使用,其他虛擬機也可以在開機時動態(tài)綁定GPU資源,實現(xiàn)GPU資源的靈活分配,確保資源的高效利用。除了GPU之外,CPU、內(nèi)存都可以進(jìn)行這樣的閑置釋放、動態(tài)調(diào)整。

在運維方面,CalcDone E800提供全面的GPU監(jiān)控能力,極大簡化了運維工作量,幫助用戶節(jié)省更多精力:

正是在這些技術(shù)實力的加持下,CalcDone E800智算一體機可面向AI應(yīng)用高頻場景,大幅提升內(nèi)嵌GPU資源的利用效率和性能水平,與國內(nèi)外主流GPU服務(wù)器型號相比,在算力規(guī)模、性價比、性能、擴(kuò)容性、運維便捷度等多方面極具競爭力。