近日, 國際權威 AI 性能基準評測平臺 MLPerf 發布最新推理 (Inference v2.0) 測試成績, 總計超過 10 家國際知名服務器廠商的數十種產品參與了本次測試。其中, 寧暢 X640 G40、X660 G45、X620 G40 人工智能服務器, 在 Closed (封閉) 賽段的 3D-UNet99 (圖像分割)、SSD-large (目標檢測重量級) 與 Bert-99 (自然語言處理) 等模型測試中性能表現出色, 共獲得 59 項第一成績。

　　MLPerf 基準測試在國際 AI 領域有極高影響力, 其基準聯盟已有谷歌、Intel、NVIDIA、微軟、Facebook 等超 50 家成員。MLPerf Inference v2.0 AI 基準測試包括 Datacenter (數據中心) 和 Edge (邊緣) 兩大場景, 參與測試的各計算系統基于同一套參數運行。

　　X640 G40 獲得 Datacenter 組全場第一

　　搭載 NVIDIA A100 Tensor Core 80GB GPU, 寧暢 X640 G40 在 Closed (封閉) 賽段所有已發布的產品中, 獲得 10 項 Datacenter 組總體性能第一成績, 也是本次測試中的全場第一。

　　最新的 MLPerfInference v2.0 設置了不同領域的 Benchmark 子項, 貼近前沿 AI 應用場景。X640 G40 在 3D-UNet99 (圖像分割)、SSD-large (目標檢測重量級)、Rnnt (語音辨識) 和 Bert-99 (自然語言處理) 等多個經典模型測試中均取得高光表現。

　　擁有強勁性能的寧暢 X640 G40 可針對不同 AI 場景和訓練模型進行互聯優化, 滿足不同類型客戶需求。其中,SSD-large 模型在線分數 8994.9、離線分數 9279.37, 這一成績代表了寧暢 X640 G40 每秒可完成 9200 多張圖片中信息的分類、定位與精準檢測, 且可應答近 9000 次實時目標檢測的推理任務;Rnnt 模型離線分數為 127213, 代表寧暢 X640 G40 每秒可完成 12 萬次語音的識別請求。

　　X660G45 拿下 Edge 組單項性能冠軍,Datacenter 組同配置 7 項第一

　　所有產品中, 寧暢 X660 G45 搭載 NVIDIA A100 Tensor Core80GB GPU, 在 SSD-Mobilenet (目標檢測移動端) 模型測試的 Multi-Stream (多數據流) 場景中, 以 0.44 成績擊敗所有參賽產品, 獲第一成績。同時,X660 G45 還取得 Datacenter 組同配置的 7 項第一, 在 SSD-large、ResNet、Bert-99、Dlrm -99 (智能推薦) 四項任務中都實現了極佳的性能結果。其 ResNet 得分在線為 286,030、離線為 316,636, 代表寧暢 X660 G45 能夠每秒完成超過 30 萬張圖片中各個事物類別的海量識別。

　　X660 G45 是專為深度學習訓練開發的高性能計算平臺, 采用 600GB / s 的 NVLink 總線高速互聯, 每個 GPU 還可搭配 HDR 200Gb / s InfiniBand 網絡和 NVMe SSD 高速緩存, 幫助用戶搭建 GPU 高速集群, 同時結合近 500TB 的本地存儲容量, 可極大縮短 AI 模型訓練時間。

　　X620 G40 贏取 Datacenter 組同配置 15 項第一

　　本次測評中, 搭載 4 顆 NVIDIA A2 Tensor Core 的寧暢 X620 G40 獲得 Datacenter 組同配置 15 項第一的成績。X620 G40 在 SSD-large、ResNet、3D-UNet99、Bert-99、Rnnt 和 Dlrm-99 等幾乎所有模型測試中都取得優異成績, 充分證明產品在推理性能上出類拔萃, 能夠應對各種復雜的 AI 挑戰。

　　X620 G40 作為一款 2U 高度人工智能服務器, 支持 PCIe4.0 高速總線技術, 適配 NVIDIA 各類 GPU 加速卡, 是理想 AI 推理計算平臺, 同時還可勝任桌面虛擬化、云游戲和視頻流轉碼等多 IT 行業用途需求。此外,X620 G40 還具備關鍵部件健康狀態監控和上報功能, 可以為數據中心運維保駕護航。

　　此次 MLPerf Inference v2.0 榜單的發布, 進一步彰顯了寧暢在 AI 服務器領域的實力地位。以此為依托, 寧暢將持續推動技術創新, 不斷深入各種 AI 應用場景, 以智能定制算力賦能用戶更好發展。