3月21日晚，英偉達創始人兼CEO黃仁勛再次穿著標志性的皮衣亮相，并在2023年GTC大會上進行了主題演講，介紹并發布了適用于節能加速數據中心的新芯片Grace和BlueField-3、讓計算光刻變得更“聰明”的cuLitho技術、正在生產中的“現代化AI工廠”——NVIDIA DGX H100 AI超級計算機（以下簡稱DGX），以及通過一個瀏覽器就可以將DGX即時接入每家公司的NVIDIA DGX Cloud。而最讓人印象深刻的是，黃仁勛在本次演講中多次提出的全新概念：“我們正處于AI的‘iPhone時刻’”。

　　AI技術正在迎來爆發式增長

　　黃仁勛介紹，所謂AI的“iPhone時刻”，即AI技術正在迎來爆發式增長，將成為數十年來最有前途的技術領域之一。因此，在此次GTC2023上，英偉達發布了多款針對AI的最新技術。

　　首先，英偉達在GTC會議上發布了cuLitho。該項技術是計算光刻領域的一項突破，能夠用于先進制程芯片的設計和制造，可以讓計算光刻變得更“聰明”，將速度提升40倍。

　　黃仁勛介紹，此前“精雕細琢”的計算光刻依賴CPU服務器集群，而如今，英偉達最新發布的cuLitho，可以實現在500套DGX H100（包含4000顆Hopper GPU）完成與4萬顆CPU運算服務器相同的工作量，但速度快40倍，功耗降低90%。可見，GPU加速后，生產光掩膜的計算光刻工作用時可以從兩周減少到8個小時。臺積電可以通過在500個DGX H100系統上使用cuLitho加速，將功率從35MW降至5MW，從而替代用于計算光刻的4萬臺CPU服務器。黃仁勛表示，英偉達將繼續與臺積電、ASML和Synopsys合作，將先進制程推進到2納米及更高精度制程。

　　過去的十年中，云計算市場規模每年增長20%，成為價值1萬億美元的巨大行業，大約3000萬臺CPU服務器完成了大部分的處理工作。但隨著摩爾定律的終結，CPU性能的提高也會伴隨著功耗增加、碳排放超標等問題，云計算的發展因此受到限制。對此，黃仁勛指出，數據中心應當加速各種工作負載，既可以減少功耗，又可以節省能源，促進新的增長。

　　為了在云數據中心規模下實現高能效，英偉達推出了Grace。Grace包含72個Arm核心，由超高速片內可擴展、緩存一致的網絡連接，可提供3.2TB/s的截面帶寬，Grace Superchip通過900GB/s的低功耗芯片到芯片緩存一致接口，連接兩個CPU芯片之間的144個核。內存系統由LPDDR低功耗內存構成，以便在數據中心中使用，它提供可1TB/s的帶寬，是目前系統的2.5倍，而功耗只是它的1/8。整個144核Grace Superchip模組的大小僅為5英寸×8英寸，而內存高達1TB。

　　黃仁勛表示，Grace的性能和能效非常適合云計算應用和科學計算應用。在微服務方面，Grace的速度比最新一代x86 CPU的平均速度快1.3倍，而在數據處理中則快1.2倍，整機功耗僅為原來服務器的60%，云服務提供商可以為功率受限的數據中心配備超過1.7倍的Grace服務器，每臺服務器的吞吐量提高25%。在功耗相同的情況下，Grace使云服務提供商獲得了兩倍的增長機會。

　　DGX市場將獲得顯著增長

　　此外，在現代軟件定義的數據中心中，操作系統在執行虛擬化、網絡、存儲和安全任務時，會消耗近一半的數據中心CPU核心和相關功耗。數據中心必須加速每個工作負載，從而降低功耗并釋放CPU，給可創造收入的工作減小負載。

　　英偉達為此推出的NVIDIA BlueField是一款卸載并加速數據中心操作系統和基礎設施的軟件。據了解，Check Point、思科、DDN、Dell EMC等超過20個英偉達生態系統的合作伙伴，都在使用BlueField的數據中心加速技術來更高效地運行其軟件平臺。

　　目前BlueField-3已投入生產，并被領先的云服務提供商所采用，以加速其云計算平臺，比如百度、CoreWeave、京東、Microsoft Azure、Oracle OCI和騰訊游戲。

　　DGX配有8個H100GPU模組，通過NVLINK Switch彼此相連，以實現全面無阻塞通信，在協同工作時，就像一個巨型GPU。而8個H100計算網絡是AI超級計算機的重要系統之一，400 Gbps超低延遲的NVIDIA Quantum InfiniBand，具有網絡內計算功能，可將成千上萬個DGX節點連接成一臺AI超級計算機。目前，DGX已全面投入生產。

　　微軟宣布Azure將向其DGX開放私人預覽版，Atos、AWS、Cirrascale、CoreWeave、戴爾、Gigabyte、谷歌、HPE、Lambda Labs、聯想、Oracle、Quanta和SuperMicro也將很快開放自己的系統和云服務，DGX的市場將獲得顯著增長。

　　英偉達還正式推出了生成式AI及超級計算云服務——Nvidia DGX Cloud。黃仁勛介紹，該服務允許客戶在云端訪問其DGX，且用戶只需要打開瀏覽器即可使用，十分簡單快捷。目前，這一產品已經在Oracle云基礎設施上應用，不久也將在Microsoft Azure、Google云平臺和其他平臺使用。此外，黃仁勛表示，采用英特爾Sapphire Rapids處理器的DGX H100 AI系統已經在生產中，未來將通過OEM和云服務合作伙伴的搭載方式來面世。

　　此外，英偉達還推出了4款推理平臺。分別是適用于AI視頻，可提供比CPU高出120倍的AI視頻性能，同時能效提高了99%的NVIDIA L4；適用于圖像生成，針對圖形以及AI支持的2D、視頻和3D圖像生成進行了優化的NVIDIA L40；適用于大型語言模型部署的NVIDIA H100 NVL；適用于推薦模型的NVIDIA Grace Hopper。

　　這些平臺將NVIDIA的全棧推理軟件與最新的NVIDIA Ada、Hopper和Grace Hopper處理器相結合，包括本次推出的NVIDIA L4 Tensor Core GPU和NVIDIA H100 NVL GPU。各平臺針對AI視頻、圖像生成、大型語言模型部署、推薦系統推理等需求激增的工作負載進行了優化。

　　黃仁勛表示：“生成式AI的興起需要更加強大的推理計算平臺。生成式AI應用的數量是無限的，它唯一的限制就是人類的想象力。為開發人員提供最強大、靈活的推理計算平臺將加快新服務的創造速度，這些新服務將以前所未有的方式改善我們的生活。”