DPU市場は活況を呈しています。将来的には少数の大企業が市場を独占することになるのでしょうか？

これを DPU (データ処理ユニット) と呼ぶ人もいれば、IPU (インフラストラクチャ処理ユニット) と呼ぶ人もいます。近年のデータ インフラストラクチャの分野における大きな革新として、その出現が挙げられます。そのため、紛らわしい名前にするために「データ インフラストラクチャ」という用語を使用する場合もあります。

便宜上、この記事では引き続き DPU と呼びます。

従来の典型的なサーバー アーキテクチャでは、CPU はさまざまなビジネス ワークロードを処理する一方で、ネットワーク、ストレージ、セキュリティ、仮想化ソフトウェアなどの非ビジネス ワークロードも処理します。 CPU は多くの非作業負荷を処理する必要があるため、ビジネス負荷を実行するために使用できるスペースが大幅に圧縮されます。 DPU の出現はこの問題を軽減するためのものです。

DPU と SmartNIC は密接に関連しています。 DPU は SmartNIC の拡張バージョンであると考える人もいます。状況によっては、この 2 つは同じものになります。以下で具体的な違いを説明する前に、それらの類似点について説明しましょう。つまり、どちらもオフロードを使用して CPU リソースの消費を削減し、それによってサーバーやデータセンターの運用効率を向上させることができます。

Nvidia の Huang Renxun 氏はかつて、仮想化やマイクロサービスなどのテクノロジーの推進により、データセンターの CPU はますます多くのタスクを処理する必要があると述べました。毎年出荷される約 3,000 万台のサーバーのうち、3 分の 1 はデータセンターでソフトウェア定義のネットワーク スタックを実行するために使用されています。彼は、この部分の作業負荷を軽減する必要があると考えています。

Google と Facebook の調査によると、CPU サイクルの 22% ～ 80% がさまざまなマイクロサービス ワークロードの処理に使用されていることもわかっています。

これらのワークロードを他のものに引き継ぐことができれば、データセンターの CPU リソースへの投資を 22% ～ 80% 節約できると概算できます。

多くの研究データは、アンインストールの効果が非常に魅力的であることを示しています。しかし、アンインストールに関するこの革新と変革が完了するまでには、ほぼ 20 年かかりました。

01CPU負荷を完全に軽減する仮想化技術の革新

1998 年、VMware x86 仮想化は完全にソフトウェアによって実行されました。ハードウェアのサポートが不足していたため、完全にソフトウェア シミュレーションに依存しており、パフォーマンスの低下が壊滅的だったため、その用途を理解できる人はほとんどいませんでした。

2005 年以降、Intel VT-x および AMD-V テクノロジの登場により、CPU とメモリのハードウェア仮想化の問題が解決され、仮想化システム全体のパフォーマンスが向上しました。仮想化技術の価値に気づく人が増えています。

PCIe SR-IOV や Intel VT-d などのテクノロジーの台頭により、ネットワークやストレージのハードウェア仮想化を含む I/O ハードウェア仮想化が大きく進歩し、パフォーマンスと柔軟性が大幅に向上しました。

純粋なソフトウェアシミュレーションという当初の仮想化段階から、その後の準仮想化段階に至るまで、仮想化技術はハードウェア自体の能力をますます活用するようになり、それに応じてシステム性能と動作効率も向上してきました。

次の図は、技術の第一人者であるブレンダン・グレッグ氏による Amazon Cloud (AWS) EC2 仮想化技術の変遷の歴史をまとめたものであり、仮想化技術全体の開発プロセスも記録されています。

開発プロセスにおいて、注目すべき歴史的な瞬間は 2017 年です。

今年、Amazon Cloud は Nitro システムをリリースしました。同年、Alibaba Cloudも同様の機能を備えたShenlongアーキテクチャを発表しました。

振り返ってみると、今年はDPU元年と言えるでしょう。 3年後、NVIDIA が DPU と命名して初めて、統一された名前になりました。

Amazon Cloud の Nitro システムには独自のハードウェアがあり、I/O のハードウェア仮想化を完了するだけでなく、さらに重要な点として、仮想化管理プログラム Hypervisior を元の CPU から専用ハードウェアにオフロードします。その結果、仮想化テクノロジによるパフォーマンスの低下はゼロに近づき、CPU の能力はほぼ完全にビジネス負荷の実行に使用されます。

使用の観点から見ると、Amazon Cloud Nitro は、クラウド ホストに仮想化テクノロジーの柔軟性をもたらすだけでなく、ベアメタルに近いパフォーマンスももたらし、両方の長所を享受できます。

経済的な観点から見ると、貴重な CPU リソースをフルに活用できれば、同じコストでより高いパフォーマンスが得られるため、業界全体に衝撃が走ります。

仮想化技術の観点から見ると、仮想化技術のパフォーマンス損失問題は、専用ハードウェアのオフロードにより大きく進歩しました。同時に、CPU オフロードが新たな段階に入ったことも意味します。

02DPUは3つの火を点火する

過去にもストレージ、ネットワーク、セキュリティなどの機能を専用ハードウェアにオフロードする慣行はいくつかありましたが、DPU という用語は、NVIDIA が 2020 年に BlueField-2 をリリースし、それを DPU と命名するまで、あまり世間の注目を集めませんでした。

論争はあるものの、DPU という名前には依然として意味があります。では、DPU とは何でしょうか? DPU の命名者である NVIDIA は、SmartNIC と DPU をどのように区別しているのでしょうか?

上の図からわかるように、NVIDIA は SoC ベースのスマート ネットワーク カードが DPU であると考えています。 DPU は最も強力な SmartNIC です。 DPU には、仮想化、ネットワーク機能仮想化 (NFV)、セキュリティ、ストレージなどの機能が追加されています。この声明は基本的に私たちが見てきた傾向と一致しています。

Wikipedia によると、DPU には通常、一般的なコンピューティング用の CPU、NIC ネットワーク カード、およびプログラム可能なデータ アクセラレーション エンジンが含まれており、DPU に一般的なコンピューティング機能とプログラム可能性の両方が与えられ、ネットワーク データ パケットとストレージ IO 処理に非常に効率的であるとのことです。

したがって、ネットワーク、セキュリティ、ストレージ、仮想化の専用システムはすべて DPU であると想定できます。

DPUの話題は非常にホットです。 DPUはCPUとGPUに続く第3のメインチップと呼ばれています。市場空間が大きいことは想像に難くありません。国内市場では、新奇源、中科有素、星雲智連、雲宝知能がいずれも高い注目を集め、資本市場からも好評を得ています。

DPU が人気を博している理由は、3 つ以上の要因が寄与しているからです。

2020 年の NVIDIA BlueField-2 の発売により、DPU に最初の火がつきました。

上の写真はNVIDIAのDPUアクセラレータカードの紹介です

BlueField-2 は Mellanox ネットワーク カードと ARM プロセッサを統合しており、ハイパーバイザ、ネットワーク、セキュリティ、ストレージなどのワークロードを CPU から DPU に移行できます。

インテルのIPUの位置づけに関する説明

インテルの参入が二度目の火を点けた。

2021年に、Intelは2つのIPUカードと、コードネームMountEvansと呼ばれるIPU SoCをリリースしました。 IPU カードは FPGA と低電力 Xeon をベースにしており、Mount Evans は ASIC と ARM コアをベースにしています。つまり、CPU がすべてを処理するという元のモデルを破壊し、ワークロードの一部を独自のデバイス (将来的にはハイパーバイザーのオフロードをサポート) に引き渡します。

2022年、AMDの市場参入により第三の火が点火された。

AMD による Pensando の買収は、DPU 分野におけるもう 1 つの大きな出来事です。ペンサンドの考えは以前のものとあまり変わりません。また、ネットワーク、ストレージ、仮想化のオフロードも行います。 ARM プロセッサも使用します。ネットワーク部分が強みです。 P4 プログラマブル パイプライン エンジンが搭載されています。

NVIDIA、Intel、AMDの3大巨頭に加えて、MarvellもARMベースのOcteon10、FungibledもMIPSアーキテクチャベースのF1、BroadcomもARMベースのStingrayを持っていることがわかります。彼らがやっていることは基本的に同じですが、重点が異なります。大まかに言えば、彼らはすべて DPU 市場をめぐって競争していると考えられます。さらに、DPU の背後には無視できない 2 人の大物がいます。

1つ目はARMです。複数の DPU ソリューションが ARM コアを使用していることは容易にわかります。 ARM は長年データ センター市場の入り口に立ってきましたが、ようやく DPU によってより受け入れやすい形で正式にデータ センターに導入されました。

もう 1 つは VMware です。 VMware の Project Montery により、ESXi Hypervisior ソフトウェアを CPU 以外のデバイスでも実行できるようになり、DPU が Hypervisior の負荷を軽減できるようになります。多くの DPU メーカーが Project Montery に参加しています。

DPU は少数の大手メーカーに市場を独占させることになるのでしょうか?

確かなのは、DPU が汎用コンピューティング CPU ほど集中することは決してなく、GPU 市場よりも確実に多様化されるということです。構成の観点から見ると、ASIC ベースと FPGA ベースの 2 つのカテゴリに分けられます。 ASIC と FPGA は長年にわたって共存しており、近い将来も両方とも長期間存在し続けるでしょう。

機能面では、ストレージ、ネットワーク、セキュリティ、仮想化のオフロードに加え、機械学習のアクセラレーション機能を提供するソリューションも数多くあります。つまり、ネットワーク カードやスマート ネットワーク カードのメーカー、さらには機械学習アクセラレーション チップのメーカーの多くが、さまざまな形で DPU の乱闘に参加する可能性があるということです。

しかし、最終的には、成功はユーザーの需要に左右されます。 DPU は、Amazon Cloud などの大規模なパブリック クラウド サービス プロバイダーから生まれました。現在、最大のユーザーグループは依然として大手インターネット企業、大手パブリッククラウドサービスプロバイダー、大手通信事業者です。

大規模なパブリック クラウドにはすべて独自の DPU があります。たとえば、Amazon Cloud には独自の Nitro システムがあり、Alibaba Cloud には独自の Shenlong アーキテクチャがあります。さらに、Huawei Cloud と Tencent Cloud にも、比較的機能が少ないスマート ネットワーク カードがいくつかあります。

Google と Intel は Mount Evans の立ち上げに協力しており、Microsoft の Catapult v3 は実際に Intel の FPGA を使用しています。

UCloud や中国の別の小規模パブリック クラウド サービス プロバイダーも NVIDIA の DPU ソリューションを使用しており、Baidu は NVIDIA と Intel の両方の DPU ソリューションを使用しています。

クラウド サービス プロバイダーはテクノロジーに対して非常にオープンであり、複数のソリューションの共存を気にしません。将来の市場では、クラウドベンダー同士の競争が激しいため、複数の DPU ソリューションの採用を発表するのはごく普通のこととなるでしょう。

たとえば、クラウド ベンダーにはさまざまなクラウド ホスト タイプがあります。多くのパブリック クラウド ホストは、Intel と AMD の x86 および ARM プロセッサを同時に使用しています。メモリ最適化、コンピューティング最適化、ネットワーク最適化など、さまざまなシナリオに応じてさまざまなタイプに分かれており、さまざまなカテゴリに分類されています。

さまざまな重点分野を持つ DPU は、クラウド サービス プロバイダーがより豊富な種類のクラウド ホストを提供するのに役立ちます。

代表的な例としてはAmazon Cloudが挙げられます。 Amazon の Nitro カードをサーバーに挿入すると、サーバーをすぐにクラウド ホストに変えることができます。 Nitro カードは、Amazon Cloud の豊富なインスタンスタイプにとって重要な原動力となっています。

多様なタイプのクラウド ホストにより、クラウド サービス プロバイダーは差別化されたサービスを構築し、同質的な競争における価格競争を回避することができます。この観点から見ると、クラウド業界の発展にとって有益であることは間違いありません。