※ 本記事は、Mickey Boxellによる”Oracle Cloud Infrastructure Kubernetes Engine (OKE) Releases New Add-ons to Improve GPU Workload Experience“を翻訳したものです。
2026年10月14日
Oracle Cloud Infrastructure Kubernetes Engine (OKE)では、3つのオプションのクラスタ・ソフトウェア・アドオン (NVIDIA GPU Operator、NVIDIA Network Operator、ノード機能検出)がサポートされるようになり、GPUアクセラレーテッド・ワークロードの実行エクスペリエンスが向上しました。拡張クラスタで使用可能なこれらのアドオンは、OKEを介してサポートされているGPU、ネットワーキングおよびノード検出コンポーネントをデプロイおよび構成する方法を提供します。このアプローチは、Kubernetes上の人工知能 (AI)、機械学習 (ML)および高パフォーマンス・コンピューティング (HPC)ワークロードの初期構成と継続的なメンテナンスを簡素化するのに役立ちます。
なぜこれを構築したのか?
GPUワーカー・ノードのプロビジョニングは、ワークロードを高速化するためのKubernetes環境の準備の1つの部分にすぎません。また、管理者は、NVIDIA GPUドライバ、コンテナ・ランタイムおよびツールキット・コンポーネント、Kubernetesデバイス・プラグイン、ノード・ラベル、モニタリング・コンポーネントを連携させ、ワークロード・アーキテクチャ、ネットワーキング・ドライバ、セカンダリ・ネットワーキングおよびリモート・ダイレクト・メモリー・アクセス (RDMA)コンポーネントに応じて連携する必要があります。これらの要素は、クラスタのKubernetesバージョン、ワーカー・ノード・イメージ、GPUシェイプおよびネットワーク構成と互換性がある必要があります。これらのコンポーネントがすべてインストールされ、適切に構成された後にのみ、コンテナ化されたワークロードでノードで使用可能なGPUリソースを使用できます。
これらの新しいアドオンは、上記で強調された課題に対処し、チームが特別な環境に必要な構成の柔軟性を維持しながら、手動でインストール、構成、および保守するGPU関連ソフトウェアの量を削減するのに役立ちます。
マネージド・アドオン
これらの操作コンポーネントは、OKEクラスタ・アドオン、Kubernetesクラスタをサポートおよび拡張するソフトウェア・ツールを介して提供されます。拡張クラスタでは、管理者は次のことができます:
- アドオンを有効または無効にします。
- サポートされているアドオンのバージョンを選択。
- 自動更新を選択するか、固定バージョンを選択。
- サポートされているキー/値構成引数を適用。
Oracleはアドオンのライフサイクルを管理し、チームが手動でデプロイおよびメンテナンスする必要のある運用ソフトウェアの量を削減します。これらの新しいアドオンはオプションであり、デフォルトでは無効になっています。自動更新が選択されると、OKEは、クラスタでサポートされているKubernetesバージョンと互換性のあるアドオン更新をデプロイします。
NVIDIA GPU Operator
基本的なGPU使用要件(クラスタの各ノードでのGPU数の公開、GPUのヘルスの追跡、Kubernetes環境でのGPU対応コンテナの実行など)に対処するために、OKEはアドオンとしてNVIDIA Device Plugin for Kubernetesを導入しました。NVIDIA GPU Operatorアドオンは、GPUワークロードで使用されるNVIDIAソフトウェア・コンポーネントを管理するための、より広範でオペレータベースのアプローチを提供します。OKEアドオンとしてデプロイされた場合、NVIDIA GPU Operatorは、NVIDIAデバイス・プラグイン、NVIDIA Container Toolkit、NVIDIA Multi-Instance GPU (MIG) Manager、NVIDIA Data Center GPU Manager (DCGM)、DCGM Exporterなどのコンポーネントを管理します。サポートされている構成引数を使用すると、管理者は環境のデプロイメントを調整できます。
DCGMおよびDCGM Exporterは、Kubernetes環境にGPUテレメトリおよびモニタリング機能を提供します。サポートされているGPUの場合、管理者はMIGマネージャを有効にすることもできます。NVIDIA Multi-Instance GPU (MIG)は、サポートされているGPUを専用のコンピュートおよびメモリー・リソースを持つ複数の個別のインスタンスに分割できるため、複数のワークロードでGPUを共有できます。
NVIDIA GPUプラグイン・アドオンがクラスタですでに有効になっている場合は、NVIDIA GPU Operatorを有効にする前に無効にするか削除してください。OKEには、この目的のためにdisableNvidiaGpuPlugin構成オプションが用意されています。サポートされているOKE GPUワーカーノード・イメージを使用し、デプロイメントの前に現在のKubernetes、アドオン、イメージおよびドライバの互換性要件を確認します。
現在の構成の引数とデフォルトについては、NVIDIA GPU Operatorアドオンのドキュメントを参照してください。
NVIDIA Network Operator
トレーニングおよび推論ワークロードがノード全体に拡張されるにつれて、GPU間の通信がジョブ全体の時間に占める割合が増加する可能性があります。RDMAやGPUDirect RDMAなどのテクノロジは、通信オーバーヘッドを削減するために使用され、GPUの使用率、スケーリング効率および結果までの時間を改善できます。
NVIDIA Network Operatorは、高速ネットワーキング、RDMA、GPUDirect RDMA、およびSpectrum-X Ethernet用のAdaptive RDMAなど、Kubernetesクラスタ内のサポートされているNVIDIAネットワーキング・コンポーネント(ConnectX SuperNICsおよびBlueField DPU)のデプロイメントと構成を自動化することで、これらの要件に対処します。NVIDIA Network Operatorアドオンは、KubernetesでサポートされているNVIDIAネットワーキング・コンポーネントのデプロイメントと構成を自動化します。選択したアドオンのバージョンと仮想機能 (VF)作成モードに応じて、アドオンは、Multus Container Network Interface (CNI)、セカンダリネットワークCNIプラグイン、NVIDIA IP Address Management (IPAM)、SR-IOV Network Operator、SR-IOVおよびRDMA CNIコンポーネント、仮想機能構成リソースなどのコンポーネントを管理できます。
単一ルートI/O仮想化 (SR-IOV)構成では、物理ネットワーク・デバイスが、Kubernetesがpodに割り当てることができる複数の仮想機能を公開できます。このアプローチにより、Kubernetesはこれらの仮想機能(ホストの使用可能なネットワーク容量の一部)をpodに割り当てて、コンテナ化されたアプリケーションの高性能ネットワーキングを可能にし、GPU容量の使用率を向上させることができます。OKEでは、SR-IOVネットワークオペレータとカスタムVF作成モードの両方がサポートされています。現在のドキュメントを確認して、適切なVF作成モードを選択し、サポートされているワーカー・ノード・イメージ、ドライバ、シェイプ、ネットワーク・アダプタ、Kubernetesバージョンおよびアドオン・バージョンを確認します。
現在の構成の引数と前提条件については、NVIDIA Network Operatorアドオンのドキュメントを参照してください。
ノード機能検出
ノード機能検出 (NFD)は、Kubernetesワーカー・ノードでハードウェア機能およびシステム構成を検出し、ノード・ラベルを介してそれらの機能を通知します。Kubernetesスケジューラは、これらのラベルを使用して、GPU、PCIデバイス、カーネル機能、RDMAサポート、その他の検出された機能などの特定の機能を備えたノードにワークロードを配置できます。
NVIDIA GPU OperatorまたはNVIDIA Network Operatorアドオンを有効にする前に、OKEノード機能検出アドオンを有効にするか、既存の互換性のあるNFDデプロイメントを使用します。互換性のあるNFDデプロイメントがすでに存在する場合は、skipNodeFeatureDiscoveryDependencyCheck構成引数を使用してアドオンの依存性チェックをスキップします。
現在の構成の引数については、ノード機能検出アドオンのドキュメントを参照してください。
結論
NVIDIA GPU Operator、NVIDIA Network Operator、およびノード機能検出アドオンは、OKEを通じてGPUソフトウェア管理、高性能ネットワーキング、およびハードウェア検出のためのコンポーネントをデプロイおよび構成するための管理された方法をプラットフォーム・チームに提供します。これらのアドオンを活用することで、プラットフォーム・チームがクラスタ・インフラストラクチャの組み立てとメンテナンスに費やす時間を短縮でき、AI/MLチームは、要求の厳しいワークロードを大規模に実行するために必要なOCIからGPUおよびネットワーキング機能へのアクセスを利用できるようになります。