プライベート・エンドポイントの作成
OCI生成AIのホスティング専用AIクラスタで、カスタム・モデルまたは事前トレーニング済モデルのプライベート・エンドポイントを作成します。
ノート
プライベート・エンドポイントを作成する前に、プライベート・エンドポイントの前提条件を実行し、次の詳細を示します:
- Virtual Cloud Networkの名前(VCN)
- VCN内のプライベート・サブネットの名前
デフォルトでは、テナンシのプライベート・エンドポイントの最大制限は5です。生成AIプライベート・エンドポイントを増やすには、制限の引上げをリクエストし、生成AIサービスのprivate-endpoint-countをリクエストします。
「プライベート・エンドポイント」リスト・ページで、「プライベート・エンドポイントの作成」を選択します。リスト・ページの検索に関するヘルプが必要な場合は、プライベート・エンドポイントのリストを参照してください。
一般情報
VCNとサブネット
次の情報を選択します。
- VCNコンパートメント
- VCN
- プライベート・サブネット・コンパートメント
- プライベート・サブネット
DNSおよびネットワーク・セキュリティ・グループ
このエンドポイントをオンデマンド・モデルに使用
デフォルトでは、このプライベート・エンドポイントは専用AIクラスタでホストされているモデルで使用できます。生成AIサービスで提供されているオンデマンド・モデルでもこのエンドポイントを使用できるようにする場合は、このステップを実行します: - 「オンデマンド・モードでの使用を許可」を選択します。
- オンデマンド・モデルに到達する方法については、この項の最後にあるヒントを参照してください。
エンドポイントを作成します
- (オプション)「タグの追加」を選択し、このプライベート・エンドポイントにタグを割り当てます。リソース・タグを参照してください。
- 「作成」を選択します。
ヒント
このプライベート・エンドポイントを使用してオンデマンド・モデルに到達するには、プライベート・エンドポイントに割り当てられたプライベート・サブネットにコンピュート・インスタンスを作成し、コンピュート・インスタンスにコードを追加し、プライベート・エンドポイントにFQDNを使用し、そのコンピュート・インスタンスからモデルにアクセスします。プライベート・エンドポイントを作成するには、generative-ai-private-endpoint createコマンドおよび必須パラメータを使用します:
oci generative-ai generative-ai-private-endpoint create [OPTIONS] [OPTIONS]CLIコマンドのパラメータおよび値の完全なリストは、CLIコマンド・リファレンスを参照してください。
ノート
事前トレーニング済モデルの場合、OCIDのかわりに、コンソールのプレイグラウンドにリストされているとおりにモデル名を使用できます。このOCIモデル名は、モデルの詳細ページの生成AIで提供される事前トレーニング済基礎モデルでも確認できます。CreateGenerativeAiPrivateEndpoint操作を実行して、プライベート・エンドポイントを作成します。