※ 本記事は、Albert Barajasによる”Announcing OCI Compute with NVIDIA L40S GPUs“を翻訳したものです。

NVIDIA L40S GPUを使用したOCI Computeの発表

Oracle Cloud Infrastructure(OCI)は、NVIDIA Ada Lovelaceアーキテクチャに基づくNVIDIA L40S GPUにより、BM.GPU.L40S.4インスタンスの今後の発売を発表できることを嬉しく思います。NVIDIA L40S GPUには、第4世代のTensorコア、aTransformerエンジン、および8ビット浮動小数点(FP8)データ形式のサポートが含まれ、次世代の生成AI、LLMトレーニングおよび推論を可能にするために1.45ペタフロップを超えるテンソル処理能力を提供します。

NVIDIA L40Sは、NVIDIA A100 Tensor Core GPUと比較して、価格パフォーマンスが1.2から2倍向上、生成AI推論パフォーマンスが最大1.2x、トレーニング・パフォーマンスが最大1.7x向上した、最高パフォーマンスのユニバーサルGPUです。

L40S GPUは、強力なグラフィックおよびビデオ機能も備えており、次の種類のワークロードをサポートするのに十分な柔軟性があります:

• 大型言語モデル(LLM)トレーニング、微調整、推論
• マルチモーダル生成AI
• Omniverseと産業のデジタル化
• 3Dグラフィックスとレンダリング
• 仮想化されたワークロード
• FP32 HPC
• ストリーミングのエンコーディングおよびデコード、 AV1

OCIは、L40S GPUと、最新世代のIntel Sapphire Rapids CPU、1TBのシステム・メモリー、15.36TBの低レイテンシのNVMeローカル・ストレージと400Gb/秒のクラスタ・ネットワーク帯域幅を最大112コアに組み合せます。

もっと知りたいですか?

OCIの機能の詳細は、GPUコンピュートおよびAIインフラストラクチャをご覧ください。