プライベート・エンド・ポイントの管理

推論にOCI生成AIカスタム・モデルを使用するには、まずそのモデルのエンドポイントを作成する必要があります。プレイグラウンドで使用可能な事前トレーニング済モデルのエンドポイントを作成することもできます。

プライベート・エンドポイントは、OCIの特定のサービスへのアクセスに使用できるVCN内のプライベートIPアドレスです。サービスは、VCN内で選択されたサブネットにプライベート・エンドポイントを設定します。プライベート・エンドポイントは、VCN内の別のVNICと考えてください。セキュリティ・ルールを使用して、他のVNICと同様にアクセスを制御します。このVNICがサービスによって作成され、その可用性が維持されます。サブネットとそのセキュリティ・ルールのみを管理する必要があります。プライベート・エンドポイントについてについて学習します。

重要

プライベート・エンドポイントを介して生成AIモデルにアクセスするには、専用AIクラスタでモデルをホストし、クラスタのエンドポイントを生成AIプライベート・エンドポイントにアタッチします。

ヒント

プライベート・エンドポイントを作成する前に、プライベート・エンドポイントの前提条件を実行し、プライベート・サブネットを使用して仮想クラウド・ネットワークを設定します。

次のタスクを実行して、カスタム・モデルのエンドポイントを作成および管理できます:

OCIのプライベート・エンドポイントについて学習します。