NVIDIA A800 40GB Active

製品概要

データサイエンスと解析

複雑なデータサイエンスワークフローを強化し、データの読み込みやデータ操作から機械学習や視覚化に至るまで、エンドツーエンドのデータサイエンスパイプラインを高速化します。

各ワークロードにおける最適なGPUとは

ワークステーション向けハイエンドGPUであるRTX 6000 Ada 世代とNVIDIA A800 40GB Active、この2製品がデータサイエンス、AI、HPC領域においてどちらが最適かをご紹介いたします。

●：最高の性能　○：良好な性能　△：ワークフローに依存

製品名		RTX 6000 Ada 世代	A800 40GB Active
DL/ML	トレーニング/チューニング < 40GB※1	△※1	△※1
	トレーニング/チューニング > 40GB※1	●	×※4
	トレーニング/チューニング混合精度/FP16	○	●
	トレーニング/チューニング 8-bit	●	○
	推論 FP16	○	●
	推論 8-bit/4-bit	●	○
	FP8※3 トレーニングと推論	●	×
生成AI	LLM FP16	○	●
	LLM 8-bit/4-bit	●	○
	画像生成	●	○
コンピュート/HPC	FP64	×	●
	FP32	●	○
ビジュアルコンピューティング※2	グラフィックス	●	○※2
	レンダリング	●	○※2
	Omniverse	●	×
その他	NVLinkサポート	×	✓

※1 40GB未満を必要とするモデルの場合、最高のパフォーマンスはデータ形式によって異なります。

※2 A800 40GB Activeには、グラフィックス表示機能用のコンパニオンGPUが必要です。 一部のアプリケーションはGPUから直接表示しないと実行できない場合があります。

※3 FP8データ形式は RTX 6000 Ada 世代でのみサポートします。

※4 NVLinkで接続された2台のA800は、NVLinkをサポートするアプリケーション、フレームワーク、ツールキットに合計80GBのGPUメモリを提供できます。

解析シミュレーションにおけるNVIDIA A800 40GB Activeの優位性

ダッソー・システムズ株式会社の電磁界シミュレーションソフトウェア「CST Studio Suite 2024」において、CPU解析、それから各種GPUを活用した解析のベンチマーク結果が以下となります。GPUメモリバンド幅が解析に与える効果は非常に大きいことがわかります。

ベンチマーク試験ご協力：株式会社エーイーティー様

GV100からの大幅な進化

NVIDIA A800 40GB Activeは、旧世代のGV100の後継品となります。演算性能の向上、マルチインスタンスGPU（MIG）対応、NVIDIA AI Enterpriseの3年ライセンスの同梱等、大幅な性能向上、機能向上がなされています。

GPU	A800 40GB Active	Quadro GV100
GPUメモリー	40GB HBM2	32GB HBM2
メモリーインタフェース	5120bit	4096bit
メモリー帯域幅	1555.2GB/s	870GB/s
CUDAコア	6912	5120
Tensorコア	432	640
倍精度演算性能	9.7 TFLOPS	7.4 TFLOPS
単精度演算性能	19.5 TFLOPS	14.8 TFLOPS
ピークTensor性能	623.8 TFLOPS	118.5 TFLOPS
マルチインスタンスGPU	最大7MIG	－
NVIDIA NVLink	Yes	Yes
NVLink帯域幅	400GB/s	200GB/s
システムインタフェース	PCI Express 4.0 x16	PCI Express 3.0 x16
消費電力	240W	250W
サーマル	Active	Active
フォームファクター	4.4(H)×10.5(L) inch, デュアルスロット	4.4(H)×10.5(L) inch, デュアルスロット
ディスプレイ対応	－	DP 1.4×4

AIトレーニングと推論

データの準備と処理、モデルの最適化とチューニング、初期段階のトレーニングなど、要求の厳しいAI開発、トレーニング、推論ワークフローに対応します。

HPC

大規模なシミュレーションを完全なFP64精度で驚異的な速度で実行し、開発タイムラインを短縮し、価値実現までの時間を短縮します。

AI開発に最適な「NVIDIA AI Enterprise 3年ライセンス」が付属

NVIDIA A800 40GB Activeには、エンタープライズセキュリティ、安定性、管理性、サポートを備えたエンドツーエンドソフトウェアプラットフォームであるNVIDIA AI Enterpriseの3年間のサブスクリプションが付属しています。NVIDIA AI Enterpriseには、実稼働対応の AIおよびデータサイエンスを迅速に開発および展開するための100以上のAIフレームワーク、ライブラリ、事前トレーニング済みモデル、ツールが含まれています。 NVIDIA A800 40GBと組み合わせることで、NVIDIA AI EnterpriseはAIの導入を簡素化し、最高のパフォーマンスでより迅速にビジネスの洞察を実現します。 NVIDIA AI Enterpriseソフトウェアサブスクリプションにアクセスして、その利点について詳しく学びましょう。

• NVIDIA AI Enterpriseの詳細はこちら

NVIDIA A800 40GB ActiveのためのコンパニオンGPU

NVIDIA A800 40GB Activeにはディスプレイポートが装備されていないため、映像出力には別途コンパニオンGPUが必要となります。認定されているコンパニオンGPUは、 NVIDIA RTX 4000 Ada 世代、NVIDIA RTX A4000、およびNVIDIA T1000となります。