IT之家 8 月 8 日消息,微軟今年 3 月和英偉達合作,宣布推出 Azure ND H100 v5 VM 虛擬機預覽版;經過數月的測試之后,微軟今天正式推出該虛擬機,幫助企業(yè)更高效處理生成式 AI 任務。
IT之家此前報道,ND H100 v5 VM,是 Azure 迄今更強大和高度可伸縮的 AI 虛擬機系列。該虛擬機支持的按需配置可達 8 至上千個通過 Quantum-2 InfiniBand 網絡互連的 NVIDIA H100 GPU,使得 AI 模型的性能明顯提高。相較上一代 ND A100 v4 VM,本次推出的虛擬機包含以下創(chuàng)新技術:8 塊 NVIDIA H100 Tensor Core GPU,通過下一代 NV Switch 和 NV Link 互連。在無阻塞胖樹網絡中,每個 GPU 搭載 400 Gb / s NVIDIA Quantum-2 CX7 InfiniBand 和每 VM / s 的性能。每個 VM 中的 8 塊本地 GPUs 之間通過 / s 對分割帶寬的 NV Switch 和 NV Link 互聯。第四代英特爾至強可擴展處理器。PCIE 第 5 代主機到 GPU 互連,每個 GPU 帶寬為 64Gb / s。16 信道的 4800 MHz DDR5 內存。新的虛擬機使用 NVIDIA 的 NVIDIA Tensor Core H100 GPU 和 NVIDIA Quantum-2 InfiniBand 網絡,當前僅限于美國東部和西部 Azure 企業(yè)訪問。【資料圖】
微軟補充說,公司正在努力在明年為其虛擬機添加數十萬塊新的 GPU。微軟正式宣布該 Azure 虛擬機之外,還宣布擴展其 Azure OpenAI 服務,在加拿大東部、美國東部 2(East United States 2)、日本東部和英國南部地區(qū)上線。
微軟表示 Azure OpenAI 服務客戶已經超過 11000 名,本季度平均每天吸引 100 名新客戶。微軟還補充說,ChatGPT AI 平臺最強大的版本 GPT-4 也將適用于新的 Azure OpenAI 服務區(qū)域。
300846首都在線
公司是一家覆蓋全球的云計算服務解決方案提供商,專注于為行業(yè)用戶提供低延時、高算力、安全存儲為核心競爭力的存算一體、云網融合、云邊協(xié)同的云計算服務。 在GPU算力領域,公司率先建立大規(guī)模、高覆蓋的GPU算力資源池,于2021年底啟動GPU算力資源池的建設計劃。2021年,公司積極推動泛渲染產品落地,實現了GPU的裸金屬服務,可提供從單卡到八卡多種規(guī)格的物理服務器租用服務,推出了GPU卡直通的虛擬機產品,同時,根據渲染客戶的需要,推出了行業(yè)內首個高速NAS云盤產品,單目錄最高可達到200Gb帶寬和50萬IOPS。同時,針對GPU服務器的特殊性,自主開發(fā)了自研管理芯片及配套的管理系統(tǒng),完善了邊緣云節(jié)點的實施效率及運營能力,初步實現了面向視覺計算行業(yè)的泛渲染異構算力公有云平臺。
公司的CDS首云異構算力平臺,主要面向以GPU算力為主的業(yè)務場景,既包括了以深度學習、AI計算、超算為主的算力業(yè)務,也覆蓋了以影視渲染、實時渲染、云游戲、XR等視覺計算需求。關鍵詞: