ブログ・シリーズのパート1では、HeatWave MySQLに移行することで、MySQLベースのデータベースを使用している際に直面しえる課題にどのように対処できるかを確認しました。「HeatWaveによるビジネス課題の解決」ブログ・シリーズのパート2では、2つ目の導入パターンに焦点を当てています: 「HeatWave GenAIおよびHeatWave AutoMLを使用したAIによるイノベーション」
生成AIとMLを使用する場合の課題とHeatWaveで対処する方法
さまざまなサービスとAIの統合、およびAIの専門知識が必要
経営者も開発者もAIを重視していますが、実装は複雑になる可能性があります。
多くの場合、データベースの外部にある大規模言語モデル(LLM)と統合し、生成AIをビジネス・データ(取得拡張生成(RAG)を実行するため)に対して使用するために、データを別のベクトル・データベースに移動する必要があります。また、機械学習(ML)のためにさらに別の外部サービスを使用する必要がある場合もあります。複数のサービスを使用すると、アーキテクチャの複雑さが生じ、ビジネス価値の創出が遅れます。データがデータ・ストア/サービス間で移動するにつれて、セキュリティおよび規制コンプライアンスのリスクも増加します。もちろんコストも増加します。
ベクトル・ストアを作成し、LLMで使用するには、AIの専門知識を必要とする約20のステップが必要です:
ところがHeatWave GenAIでは、2つの単純なSQL文のみが必要であるため、生成AIの活用はデータベース問合せのようにシンプルになります。
HeatWave GenAIは、データベース内LLM、自動化されたデータベース内ベクトル・ストア、スケールアウト・ベクトル処理、自然言語でコンテキストに即した会話機能を備えた統合的で自動化されたセキュアな生成AIを提供します。AIの専門知識とデータ移動なしで生成AIを活用できます。
HeatWave GenAIは、米国で中小企業向けのITとセキュリティのソリューションを提供しているSmarterD では、ロードマップを12か月短縮して、エンタープライズAIプラットフォームであるSmarterD.aiを立ち上げることに役立ちました。同社は、わずか1か月で開発から本番まで進み、契約管理とコンプライアンス管理フローで生成AIの活用したアプリケーションを実現しました。また、SmarterDは、新しいアプリケーション開発をサポートする新しいモジュールをわずか2-4週間で提供できます。
HeatWave AutoMLは、アルゴリズムの選択、モデルのトレーニングのためのインテリジェントなデータ・サンプリング、特徴量選択、ハイパーパラメータの最適化など、MLのライフサイクルを自動化し、データ・アナリストとデータ・サイエンティストが時間と労力を大幅に節約できるようにします。インタラクティブなHeatWave AutoMLコンソールでは、ビジネス・アナリストがビジュアル・インタフェースを使用してMLモデルの構築、トレーニング、実行、説明を行うこともできます。SQLコマンドやコーディングを知る必要はありません。
コロンビアのAIソリューション提供企業であるAicollは、ローンで顧客がデフォルトするリスクを管理するためのAIソリューションを提供します。HeatWave AutoMLを使用することで、同社はMLモデルの構築にかかる時間を3か月から1週間に短縮しました。 また、データの準備も1日から数分に短縮しました。
様々なAIサービスでコストが増加
生成AIとMLに複数のサービスを使用すると、コストが増加します。1つのサービスではなく複数のサービスに対して支払う必要があるだけでなく、統合やそれらの間のデータ移動に対しても費用を支払う必要があります。さらに、複数のサービスには通常、異なるスキルが必要であるため、人員配置がより複雑になります。
イタリアを拠点とするTeyutoは、オンデマンドまたはライブストリーミングを通じて、ビデオプラットフォームを作成し、製品を収益化したい組織向けのアプリケーションを開発しています。HeatWave AutoMLとHeatWave MySQLをOLTPおよび分析に使用することで、Teyutoは運用コストを35%削減し、スタッフの生産性を50%向上させました。
同様に、メキシコのAiwifiは、カスタマイズされたキャプティブ・ポータルを通じて買い物客をショッピングWebサイトに接続するWi-Fiソリューションを提供し、顧客がよりパーソナライズされたマーケティング・コンテンツを作成できるようにHeatWave AutoMLを使用しています。同社は、HeatWaveが最大5つの外部システムを置き換えたと推定しています。
GenAIのワークロードためにGPUをプロビジョニングするにはコストもかかり、GPUそのものが希少である傾向があります。逆に、HeatWave GenAIデータベース内LLMを使用するための追加コストはなく、GPUのプロビジョニングが不要になるため、インフラストラクチャ・コストを削減できます。さらに、システム・リソースが最適化され(スレッド数、バッチ・サイズおよびセグメント・サイズの最適な構成)、コストがさらに削減されます。
HeatWaveは統合ソリューションを提供するため、生成AIとMLを組み合わせることで、優れた相乗効果が得られます。 次の例では、アプリケーションはHeatWave AutoMLレコメンデーション・システムを使用して、ユーザーの好みやユーザーが以前に注文した内容に基づいてレストランを提案します。HeatWaveベクトル・ストアでは、レストランのメニューをPDF形式で検索し、特定の料理を提案し、顧客により大きな価値を提供することができます。
HeatWaveの適用領域
HeatWave GenAIおよびHeatWave AutoMLは、次のようなアプリケーションに利用されます。:
- 潜在的な問題の検出: 本番システムの異常、ローンのデフォルト予測、業界特有のセキュリティ情報や脆弱性、など
- パーソナライズされた「おすすめ」: 商品、マーケティング・コンテンツ、レストランや料理、など
- ITサービス管理: 分類、チケット割当ておよび問題解決、など
- チャットボット: カスタマー・サービス、テクニカル・サポート、分析支援、など
- 契約とコンプライアンスの管理: 分類、レビュー、条件の検証、など
- コンテンツの要約と翻訳: ECサイトの製品レビュー、大学のカリキュラムやコース、レストランのメニュー、など
まとめ
ブログ・シリーズの第2部で説明したように、HeatWaveはAIイノベーションを加速するのに役立ちます。次のことができます。
- AIの専門知識やデータ移動、追加コストなしで生成AIを活用できます
- 生成AIと機械学習を1つのソリューションで簡単に組み合わせることで、優れたシナジー効果を得ることができます
- 選択したクラウド・プロバイダでAIアプリケーションを開発および運用できます。HeatWaveはOCI、AWSおよびMicrosoft Azureで使用できます
関連情報