エヌビディア（本社：アメリカ合衆国カリフォルニア州サンタクララ）は１０月２２日、AIコンピューティングプラットフォームがMLPerfの最新ラウンドで再びパフォーマンスの記録を更新し、ハードウェア、ソフトウェア、サービスの AI パフォーマンスを測定する業界唯一の独立系ベンチマークでリードを広げたことを発表した。MLPerfとは、「公平かつ有用なベンチマークを作る」ことを目指したAIリーダーたちによるコンソーシアム。
エヌビディアは、MLPerf推論の第２バージョンにおいて、データセンターおよびエッジコンピューティングシステム向けの全６応用分野のテストすべてで結果を残した。このテストは、コンピュータービジョン向けの当初の２つのテストに加えて、AI分野の中でも成長の著しいレコメンデーションシステム、自然言語理解、音声認識、医用画像を網羅している。
幅広い業界の組織が、すでにNVIDIA® A100 Tensor コア GPUの推論パフォーマンスを利用して、AIを研究から日々の業務へと移行している。例えば、金融機関では対話型AIを使って顧客の質問により早く答え、小売業者は AI を使って常に在庫を補充、医療機関swはAIを用いて何百万枚もの医用画像を分析することで、病気をより正確に特定し、人命を救うのに役立てている。
エヌビディアのゼネラルマネージャー兼アクセラレーテッドコンピューティング担当バイスプレジデントであるイアン・バックは次のように述べている。「私たちは転換点におり、あらゆる業界が AIを応用して新しいサービスを提供し、自社のビジネスを成長させるためのより良い方法を模索しています。MLPerfで今回の結果を出すためにエヌビディアが成し遂げてきたことは、私たちの日常生活を向上させる新しいレベルの AIパフォーマンスを企業に提供します」
５年前にGPUを推論に使っていた企業はほんの一握りの大手ハイテク企業だけであった。しかし現在では、幅広い業界の企業がエヌビディアのAIプラットフォームを用い、ビジネス活動を向上させ付加的なサービスを提供している。
さらに、NVIDIA GPUは、パブリッククラウドでCPUよりも多くのAI推論能力を提供するようになり、NVIDIA GPUのクラウドAI推論コンピューティング能力の合計は、２年ごとに約１０倍伸びている。
エヌビディアがAI推論を新たな高みへ
エヌビディアとそのパートナーは、エヌビディアのデータセンターGPU、エッジAIアクセラレーター、エヌビディアに最適化されたソフトウェアを含む、エヌビディアのアクセラレーションプラットフォームを使ってMLPerf 0.7の結果を提出した。
今年の前半に発表されたNVIDIA A100は、第３世代のTensor コアとMulti-Instance GPUテクノロジーを特徴としており、ResNet-50テストではCPUに３０倍の差をつけて勝利している。さらに、A100は新しく追加されたデータセンター向け推論のレコメンダーテストでは、最新のCPUを最大２３７倍上回るパフォーマンスを出している。（※１）
※１：MLPerf推論0.7ベンチマークに準拠
これは、１台のNVIDIA DGX A100™ システムで約 １,０００ 台のデュアルソケットCPUサーバーと同じパフォーマンスを実現できるということであり、AIレコメンダーモデルを研究から実稼働に移す際に、きわめて高い費用対効果を生む。
このベンチマークはまた、主流のエンタープライズ向けエッジサーバーや、費用対効果の高いクラウドインスタンスにとって、NVIDIA T4 Tensor コア GPUが引き続き、堅実な推論プラットフォームであることも示している。NVIDIA T4 GPUは同じテストでCPUを最大２８倍上回り、さらに、NVIDIA Jetson AGX Xavier™は、SoCベースのエッジデバイスの中で首位のパフォーマンスを見せている。
■エヌビディアについて
１９９９年におけるエヌビディア（NASDAQ 表示：NVDA）によるGPUの発明は、PCゲーミング市場の成長に爆発的な拍車をかけ、現代のコンピューター グラフィックスを再定義し、並列コンピューティングに革命的変化を起こした。最近では、GPUディープラーニングが最新のAI（次世代コンピューティング）に火をつけ、世界を知覚し理解することができるコンピューター、ロボット、自律走行車の脳としてGPUは機能している。