※ 本記事は、Akshai Parthasarathy, Andrew Butterfieldによる”Oracle and NVIDIA solve the largest AI and NLP models“を翻訳したものです。
2022年9月16日
Oracle Cloud Infrastructure（OCI）上のNVIDIA GPUによって、より迅速なAIトレーニングと顧客推論が提供されます。その結果、OCIは大規模なAIモデルのトレーニングのためにインフラストラクチャの使用量が急増しています。
NVIDIA GTCは、NVIDIA GPUを使用して自然言語処理（NLP）と大規模な言語モデル（LLM）を使用してAIワークロードを加速する方法について詳しく知るための、テクノロジー・イノベータやビジネス・プロフェッショナル向けのユニークな機会を提供します。OCIの専門家は、2022年9月19日から22日にオンラインで実行されるGTCで次のセッションを紹介しています。
- Building Large Language Models at Scale in the Cloud [A41328]
- Insights from Unstructured Information with AI Services (Presented by Oracle Cloud) [A41397]
自然言語処理が重要な理由
NLPは、大規模な言語モデルによって実現され、コンピュータがテキストと音声をよりよく理解できるようにすることで、テクノロジとの対話方法を強化します。GPT-3、BLOOM、BERTなどのこれらのモデルには、人間のような通信を可能にする数十億のパラメータを含めることができます。ユースケースには、翻訳ツール、自動修正、自動補完、チャットボット、音声認識、紙、ブログ、レポートなどのテキストの自動要約があります。
NLPモデルのトレーニングには、クレンジング、ラベル付け、タグ付け、分類されたデータを含む大規模なデータセットが必要です。モデル・トレーニングでは、強力なプロセッサ、高速かつ高密度のローカル・ストレージ、高スループットの超低レイテンシRDMAクラスタ・ネットワーク、およびジョブをシームレスに自動化および実行するためのツールにアクセスする必要があります。
モデル・トレーニングにOCIを選ぶ理由
これらのNLPモデルのいずれかをトレーニングするには、クレンジング、ラベル付け、タグ付けおよび分類されたデータを含む大規模なデータセットが必要です。モデル・トレーニングでは、強力なプロセッサ、高速かつ高密度のローカル・ストレージ、高スループットの超低レイテンシRDMAクラスタ・ネットワーク、およびジョブをシームレスに自動化および実行するためのツールにアクセスする必要があります。
OCIは、最高のパフォーマンスのクラウド・ハードウェアとネットワークを提供します。LLMに必要な帯域幅を維持し、運用を削減するために、NVIDIA A100 Tensor Core GPUシェイプは、高スループットの超低レイテンシRDMAクラスタ・ネットワークと相互に接続されます。各NVIDIA A100ノードには、高パフォーマンスのクラスタ・ネットワーク・ブロックを介して接続された8つの2-100Gbps Mellanoxネットワーク・インタフェース・カード（NIC）があり、その結果、ノード間で1,600Gbpsの帯域幅が生成されます。
これらのイノベーションにより、AdeptやAleph Alphaなどの顧客は、以前よりも迅速かつ経済的にモデルをトレーニングできます。
「AIは急速に拡大し続けていますが、これまではAIモデルはテキストや画像の読み取りと書き込みしかできず、実際には3Dパーツの設計やデータのフェッチや分析などのアクションを実行できませんでした。OCIおよびNVIDIAテクノロジーのスケーラビリティとコンピューティング能力により、オラクルは、ソフトウェア・メーカーがすでに作成している機能に基づいて、存在するすべてのソフトウェア・アプリケーション、WebサイトおよびAPIを使用するニューラル・ネットワークをトレーニングしています。普遍的なAIチームメイトは、従業員が考える速さで作成し、手作業に費やす時間を削減するための「extra set of hands」を提供します。これは、組織が生産性を高め、意思決定に鋭敏になるのに役立ちます。」—David Luan, chief executive officer, Adept
「これは新しい世代モデルであり、それらをトレーニングするには新しい世代のハードウェアが必要です。古いGPUクラスタはもう十分ではありません。業界では多くの資金を調達し、Oracleと提携しています。優れたプレイグラウンド・タスクを価値を生み出すエンタープライズ・アプリケーションに翻訳する方法を構築しています。」—Jonas Andrulis, Founder & CEO, Aleph Alpha
AIサービス
Oracle AIには、OCI Speech、OCI Language、OCI Vision、OCI Anomaly Detection、OCI Digital Assistantなどの製品が含まれています。2番目のGTCプレゼンテーションに最も関連するサービスは、OCI SpeechとOCI Languageです。OCI Speechは、自動音声認識（ASR）テクノロジを適用して、オーディオベースのコンテンツをテキストに変換します。OCI Languageでは、高度なテキスト分析を大規模に実行できます。
OCI Speech、OCI Language、Oracle IntegrationサービスおよびOracle Analyticsを組み合せると、記録されたコールから情報を抽出し、分析を実行してインサイトを大規模に検出するためのワークフローが提供されます。この分析は、大量の音声会話を処理するコールセンターやその他の部門で特に役立ちます。
NVIDIA GTCにご参加ください
OCIは、NVIDIA V100およびA100 TensorコアGPUを搭載したコンピュート・インスタンスを提供します。NVIDIAとの継続的なコラボレーションの延長として、OCIは、NVIDIA H100 Tensor Core GPUのサポートも提供します。このGPUは、1兆パラメータ言語モデルに使用できます。また、A10 Tensor Core GPUは、GPUワークロードのエンドツーエンドのスケーリングを可能にします。OCIベア・メタル・インスタンスで実行する場合、これらのGPUにより、企業、研究、学術、革新的な独立系ソフトウェア・ベンダー向けのAIおよびMLモデルに関する大規模なトレーニングと推論が可能になります。
NVIDIA GTCに無料でご参加ください。会議に登録して、これらのセッション、ワークショップおよびデモにアクセスしてください。Oracle Cloud Infrastructureの機能の詳細は、次のリソースを参照してください。