プライベート・エンド・ポイントの管理
プライベート・エンドポイントにより、仮想クラウド・ネットワーク(VCN)内のOCI生成AIモデルへのセキュアなプライベート・アクセスが可能になります。専用AIクラスタまたはオンデマンド・モデルでホストされる事前トレーニング済モデルおよびカスタム・モデルのプライベート・エンドポイントを作成できます。
情報
プライベート・エンドポイントは、OCIの特定のサービスへのアクセスに使用できるVCN内のプライベートIPアドレスです。サービスは、VCN内で選択されたサブネットにプライベート・エンドポイントを設定します。プライベート・エンドポイントは、VCN内の別のVNICと考えてください。セキュリティ・ルールを使用して、他のVNICと同様にアクセスを制御します。サービスがこのVNICを作成し、その可用性を維持します。サブネットとそのセキュリティ・ルールのみを管理する必要があります。プライベート・エンドポイントについてについて学習します。
プライベート・エンドポイントを作成すると、「オンデマンド・モードでの使用を許可」オプションを選択したかどうかに関係なく、プライベート・エンドポイントの完全修飾ドメイン名(FQDN)を受け取ります。プライベート・エンドポイントは次の方法で使用できます:
- 専用AIクラスタ上のエンドポイントにアタッチして、プライベート・エンドポイントを介してクラスタ(およびそのホストされたモデル)にアクセスできるようにします。
- 作成または編集中に「オンデマンド・モードでの使用を許可」を選択した場合、プライベート・エンドポイントを使用して、生成AIサービスで提供されるオンデマンド・モデルにアクセスすることもできます。
アクセス
プライベート・エンドポイントを介してモデルにアクセスするには、プライベート・エンドポイントに割り当てられたプライベート・サブネットにコンピュート・インスタンスを作成し、コンピュート・インスタンスにコードを追加し、プライベート・エンドポイントにFQDNを使用し、そのコンピュート・インスタンスからモデルにアクセスします。
前提条件
プライベート・エンドポイントを作成する前に、プライベート・エンドポイントの前提条件を実行し、プライベート・サブネットを含む仮想クラウド・ネットワークを設定します。
制限
デフォルトでは、テナンシのプライベート・エンドポイントの最大制限は5です。生成AIプライベート・エンドポイントを増やすには、制限の引上げをリクエストし、生成AIサービスのprivate-endpoint-countをリクエストします。
管理
次のタスクを実行して、カスタム・モデルのエンドポイントを作成および管理できます:
- プライベート・エンドポイントの作成
- プライベート・エンドポイントの一覧表示
- プライベート・エンドポイントの詳細の取得
- プライベート・エンドポイントの更新
- プライベート・エンドポイントの移動
- プライベート・エンドポイントの削除
OCIのプライベート・エンドポイントについて学習します。