プライベート・エンド・ポイントの管理
推論にOCI生成AIカスタム・モデルを使用するには、まずそのモデルのエンドポイントを作成する必要があります。プレイグラウンドで使用可能な事前トレーニング済モデルのエンドポイントを作成することもできます。
プライベート・エンドポイントは、OCIの特定のサービスへのアクセスに使用できるVCN内のプライベートIPアドレスです。サービスは、VCN内で選択されたサブネットにプライベート・エンドポイントを設定します。プライベート・エンドポイントは、VCN内の別のVNICと考えてください。セキュリティ・ルールを使用して、他のVNICと同様にアクセスを制御します。このVNICがサービスによって作成され、その可用性が維持されます。サブネットとそのセキュリティ・ルールのみを管理する必要があります。プライベート・エンドポイントについてについて学習します。
重要
プライベート・エンドポイントを介して生成AIモデルにアクセスするには、専用AIクラスタでモデルをホストし、クラスタのエンドポイントを生成AIプライベート・エンドポイントにアタッチします。
次のタスクを実行して、カスタム・モデルのエンドポイントを作成および管理できます:
- プライベート・エンドポイントの作成
- プライベート・エンドポイントの一覧表示
- プライベート・エンドポイントの詳細の取得
- プライベート・エンドポイントの更新
- プライベート・エンドポイントの移動
- プライベート・エンドポイントの削除
OCIのプライベート・エンドポイントについて学習します。