NVIDIA A2 效能高 取代高電量 Gaming 遊戲顯示卡片
低耗能及可調整的熱設計功耗 ,耗能更低於 Nvidia T4
NVIDIA A2 Tensor 核心 GPU 提供入門級推論,且耗能低、使用量小、效能高,可於邊緣端提供 NVIDIA 人工智慧。A2 搭載 PCIe Gen4 短卡和低功耗 40-60W 可設定的散熱設計功耗 (TDP) 功能,可為任何大規模部署的伺服器帶來多功能推論加速。
提升最高 20 倍推論效能
部署人工智慧推論可透過智慧的即時體驗改善消費者生活,並從數兆個終端感測器和攝影機中獲得見解。與僅使用 CPU 的伺服器相比,搭載 NVIDIA A2 Tensor 核心 GPU 的邊緣和入門級伺服器可提供高達 20 倍的推論效能,快速升級任何伺服器,以便處理現代人工智慧工作負載。
NVIDIA 人工智慧企業
NVIDIA 人工智慧企業是人工智慧與資料分析軟體的端對端雲端原生套件,經過認證,可在採用 VMware vSphere 的監視器虛擬化基礎架構中的 A2 上執行,因此可以在混合式雲端環境中管理和調整人工智慧和推論工作負載。
主流 NVIDIA 認證系統
搭載 NVIDIA A2 的 NVIDIA 認證系統™ 將運算加速以及快速、安全的 NVIDIA 網路融入 NVIDIA OEM 合作夥伴所打造及銷售的企業級資料中心伺服器。此計畫讓客戶能夠在單一高效能、符合成本效益且可擴充的基礎架構上,從 NVIDIA NGC™ 目錄中找出、取得及部署適用於傳統與多元化現代人工智慧應用程式的系統。
採用 NVIDIA Ampere 架構
NVIDIA Ampere 架構專為彈性運算時代而設計,提供支援現代企業應用程式所需的效能和加速。深入探索全球效能最強且最有彈性的資料中心。
技術規格
Peak FP32 | 4.5 TF | |
TF32 Tensor Core | 9 TF | 18 TF¹ | |
BFLOAT16 Tensor Core | 18 TF | 36 TF¹ | |
Peak FP16 Tensor Core | 18 TF | 36 TF¹ | |
Peak INT8 Tensor Core | 36 TOPS | 72 TOPS¹ | |
Peak INT4 Tensor Core | 72 TOPS | 144 TOPS¹ | |
RT Cores | 10 | |
Media engines | 1 video encoder 2 video decoders (includes AV1 decode) |
|
GPU memory | 16GB GDDR6 | |
GPU memory bandwidth | 200GB/s | |
Interconnect | PCIe Gen4 x8 | |
Form factor | 1-slot, low-profile PCIe | |
Max thermal design power (TDP) | 40–60W (configurable) | |
Virtual GPU (vGPU) software support² | NVIDIA Virtual PC (vPC), NVIDIA Virtual Applications (vApps), NVIDIA RTX Virtual Workstation (vWS), NVIDIA AI Enterprise, NVIDIA Virtual Compute Server (vCS) |