AIコンピューティング

この章では、Oracle AI Data PlatformでAIエージェントを強化するための特殊なコンピューティング・リソースの使用について説明します。

AIコンピュート・クラスタを使用すると、AIデータ・プラットフォーム・ワークスペースでエージェントをホストできます。AI計算をエージェントにアタッチしてプレイグラウンド・エクスペリエンスを実行し、本番ワークロード用にデプロイされたエージェントをホストできます。

AIコンピュートを見つける場所

AIコンピュートは、AIデータ・プラットフォームの左側のナビゲーション・ペインからアクセス可能な「コンピュート」ページから管理します。「AIコンピュート」タブをクリックして、ワークスペースで使用可能なAIコンピュート・クラスタを表示します。

「AI Compute」タブが選択された状態で「Compute」ページが開きます。

「AIコンピュート」タブは、現在選択されているワークスペース内のAIコンピュート・リソースのメイン・ランディング・ページです。表アクション、フィルタリング、ソートおよびステータス情報を提供します。

列またはコントロール	目的
フィルタ	表内で名前または表示可能なテキストでリソースを検索します。
加算(+)	新しいAIコンピュートの作成を開始します。
削除	選択したAI計算を削除します。
AIコンピュート名	コンピュート・リソースの名前。AIコンピュート名をクリックして、リソースの詳細ページを開きます。
設定値	「作成中」、「アクティブ」、「更新中」などの現在のライフサイクル状態。
レプリカの数	AIコンピュートに関連付けられたコンピュート・レプリカの数。コンピュートに対して自動スケーリング・ポリシーを選択すると、レプリカの最小数および最大数がリストされます。
エージェントの数	AIコンピュートでホストされているエージェントの数。エージェントが存在する場合、カウントはリンクとして表示されます。これには、プレイグラウンド・ホスティングおよびデプロイされたエージェント・エンドポイントが含まれます。
構成	AIコンピュート内のレプリカのコンピュート・シェイプ(1 OCPU、16 GBまたは2 OCPU、32 GBなど)のサマリー。
更新者/更新日/作成日	最新の更新および作成時間の監査情報。
「アクション」メニュー ()	選択した行のリソース固有のアクションを開きます。

ノート:

緑色のチェックは、アクティブなリソースを示します。スピナーは、作成または更新などの進行中の操作を示します。リソースがアクティブになるまで待ってから、そのリソースに依存して本番作業を行います。

「AIコンピュート」タブでAIコンピュートの名前をクリックすると、そのAIコンピュートに関する詳細情報を表示できます。AIコンピュート・ビューには、「詳細」、「デプロイ済エージェント」、「メトリック」および「権限」の4つのタブがあります。

「詳細」タブ

「詳細」タブには、AIコンピュートの各レプリカに対して構成されたシェイプおよびストレージの概要が示されます。AMDは、すべてのAI計算に使用されます。

「AI Compute」ページが開き、「Details」タブが選択されています。

「詳細」タブ項目	説明
ドライバ・シェイプ	AIコンピュート用に選択されたGPUシェイプ。AMDは、すべてのAI Computeのドライバ・シェイプです。
OCPU	AIコンピュート用に選択されたOCPU数。
メモリー(GB)	AIコンピュート・メモリー(GB)。
ブロック・ボリューム	AIコンピュート・ボリュームのブロック・ボリューム・サイズ(GB)。

「デプロイ済エージェント」タブ

「デプロイ済エージェント」タブには、AIコンピュート・リソースでホストされているエージェントがリストされます。エージェントがデプロイされていない場合、AIコンピュートは反復的な開発とテストに必要なプレイグラウンド・エクスペリエンスをホストしています。エージェントがデプロイされている場合、計算されたAIは本番ワークロードのエージェント・デプロイメント・エンドポイントをホストしています。

「エージェント」タブが選択された状態で「AI Compute」ページが開きます。

「デプロイ済エージェント」タブの項目	説明
エージェント名によるフィルタ	関連付けられたエージェント・リストを検索します。
エージェント名	コンピュート・リソースに関連付けられたエージェントの名前。
認可モード	エージェントがどのように作成されたか。ビジュアルまたはコードの値。
デプロイメント	デプロイメント状態AIコンピュートでホストされるエージェントは、プレイグラウンド状態またはデプロイ済状態のいずれかになります。
作成日/更新者	エージェントのメタデータを作成および更新します。

「メトリック」タブ

「メトリック」タブを使用して、時間の経過に伴うCPU、メモリーおよびネットワーク使用率を確認します。これは、レプリカ、OCPUまたはメモリーをスケール・アップまたはスケール・ダウンするかどうかを決定する場合に便利です。AIコンピュート・スケール・アウト中またはスケール・イン中にダウンタイムはありません。

「コンピュート使用率」タブが選択された状態で「AIコンピュート」ページが開きます。

ノート:

各時系列が異なるレプリカに対応しています。たとえば、2つのレプリカを使用してAIコンピュートを作成すると、上のスクリーンショットのように2つの時系列が表示されます。

「稼働状況の計算」タブ・アイテム	説明
適用済フィルター	稼働状況ビューの開始日時と終了日時を選択します。
表示	メトリックを選択します。オプションは次のとおりです: CPU使用率メモリー使用率ネットワークが受信したバイト数ネットワークが送信したバイト数
時間間隔	カスタム期間または過去7日間のいずれかを選択します。
レプリカID	メトリックを特定のレプリカIDにフィルタするか、すべてのコンピュート・レプリカを表示します。
間隔	チャートの集計間隔を選択します。オプションは、自動、1分、5分、15分、30分および60分です。

「権限」タブ

「アクセス権」タブには、このAIコンピュートに対するアクセス権を持つすべてのプリンシパルの表が表示されます。このタブを使用して、プリンシパルの追加、権限レベルの変更、または権限の変更を行います。

「権限」タブ項目	説明
プリンシパルの名前	プリンシパルまたはロールの名前。
プリンシパル・タイプ	プリンシパル・タイプUSERまたはROLE。
権限	権限のレベル。
継承されます	親オブジェクトに付与された権限は、含まれているオブジェクトに権限を付与します。

AIコンピュートの作成

AIコンピュート・クラスタを作成して、Oracle AI Data PlatformでAIエージェントを実行できます。

ホーム・ページで、ワークスペースに移動します。
「作成」をクリックし、「AIコンピュート」をクリックします。
AIコンピュートの名前および説明を指定します。
各レプリカのOCPU数を設定します。1、2、4、8、16、32または64 OCPUを選択できます。

レプリカ当たりのメモリー(GB単位)を設定します。使用できるメモリーの範囲は、OCPUの数によって異なります。

OCPU	Memory
1 OCPU	16 または 32G バイト
2 OCPU	16、32または64 GB
4 OCPU	32、64または128 GB
8 OCPU	32. 64、128または256 GB
16 OCPU	64、128、256または512 GB
32 OCPU	128、256または512 GB
64 OCPU	256、512、または1024GB

水平自動スケーリングを有効にするには、「自動スケーリング」をオンにして、次のフィールドを構成します:
- 最小レプリカ: AIコンピュート・クラスタに割り当てられたレプリカの最小数を設定します。
- 最大レプリカ数: AIコンピュート・クラスタに割り当てられたレプリカの最大数を設定します。スケール・アウト・イベントは、レプリカ数が最大レプリカ数に達するまで発生します。
- スケーリング条件: 1秒当たりのAPIリクエスト数(AIコンピュートでホストされているすべてのエージェント全体のリクエスト数/秒)およびレプリカ全体の平均CPU使用率(すべてのレプリカでの平均CPU使用率。デフォルトは80%)のしきい値を設定します。
  スケーリング条件では、アクションを開始するロジックを使用して、レプリカをAIコンピュートに追加または削除します。Trueの場合、スケーリング条件によってスケール・アウト・アクションが開始され、さらに1つのコンピュート・レプリカが追加されます。スケール・アウト・アクションは、1秒当たりのAPIリクエストがしきい値を超えた場合、またはすべてのレプリカの平均CPU使用率がしきい値を超えた場合にトリガーされます。
- クールダウン期間: 自動スケーリングがそれ以上のアクションを実行しない自動スケーリング・アクションの後の期間を設定します。これにより、短時間で過剰なスケーリング・アクションを回避できます。最小値は5分です。
自動スケーリングを無効にしたままにした場合は、コンピュート・レプリカの数を設定します。レプリカによって計算プールがスケーリングされます。各レプリカは、AIコンピュートでホストされているすべてのエージェントのコピーをホストします。

ノート:
レプリカの最大数は10です。レプリカ制限を引き上げる必要がある場合は、Oracle担当者にお問い合せください。
AIが1時間当たりに構成コストを計算する対応するAIDPユニットを確認します。
「作成」をクリックします。新しいリソースが「作成中」状態のリストに表示されます。プロビジョニングが完了すると、状態が「アクティブ」に変わります。

エージェントのAIコンピュートの作成

新しいAIコンピュート・クラスタをエージェント・インタフェースから直接作成し、すぐにアタッチできます。

詳細は、AIコンピュートを参照してください。

ホーム・ページで、エージェントにナビゲートします。
「コンピュート」をクリックし、「新しいAIコンピュートの作成」をクリックします。
AIコンピュートの名前と説明を指定します。
AIコンピュート用のOCPU数およびメモリー・サイズを選択します。
「作成」をクリックします。

エージェントへの既存のAIコンピュートのアタッチ

以前に作成したAIコンピュート・クラスタを、少なくともUSE権限を持つエージェントにアタッチできます。

ホーム・ページで、エージェントにナビゲートします。
「コンピュート」をクリックし、「AIコンピュートへのアタッチ」をクリックします。
使用するAIコンピュートをリストからクリックします。
エージェントが正常にアタッチされると、「AIcompute: (ClusterName) running」と表示されます。これには数分かかる場合があります。

AIコンピュートの編集

編集操作を使用して、AIコンピュート・クラスタの構成設定を変更できます。

AIコンピュート用のOCPUまたはメモリーの変更が完了するまでに数分かかる場合があります。また、エージェントで長時間実行される問合せを中断することもできます。

ホーム・ページで、ワークスペースに移動します。
「コンピュート」をクリックし、「AIコンピュート」タブをクリックします。
変更するAIコンピュートの横にある「アクション」をクリックし、「編集」をクリックします。AIコンピュートの名前をクリックし、右上の「編集」をクリックすることもできます。
名前、説明、コンピュート・レプリカの数、レプリカ当たりのOCPU数およびレプリカ当たりのメモリーを変更します。AIコンピューティングへの変更は、ダウンタイムなしで完了します。
「更新」をクリックします。更新の進行中に、AIコンピュート状態が「更新中」と表示されます。