プライベート・エンド・ポイントの管理

プライベート・エンドポイントは、OCIサービスへのプライベート・アクセスを提供するVCN内のプライベートIPアドレスです。生成AIの場合、プライベート・エンドポイントを使用すると、VCN内から大規模言語モデルにアクセスできます。このサービスは、選択したプライベート・サブネットにプライベート・エンドポイントを作成し、その可用性を維持します。アクセスは、ルーティング、セキュリティ・リストおよびネットワーク・セキュリティ・グループ(NSG)を使用して制御します。

プライベート・エンドポイントについておよびセキュリティ・ルールについて学習します。

OCI生成AIでプライベート・エンドポイントを作成すると、「オンデマンド・モードでの使用を許可」を選択したかどうかに関係なく、プライベート・エンドポイントの完全修飾ドメイン名(FQDN)を受け取ります。プライベート・エンドポイントを使用して、次のことを行います。

• 専用AIクラスタ上のエンドポイントにアタッチして、プライベート・エンドポイントを介してクラスタ(およびそのホストされたモデル)にアクセスします。
• 「オンデマンド・モードでの使用を許可」を有効にした場合は、オンデマンド・モデルにアクセスします。

プライベート・エンドポイントは、モデルが使用可能な商用(OC1)、政府(OC4)およびソブリン(OC19)リージョンのリージョン別生成AIモデル・ページにリストされているすべてのモデルでサポートされます。

プライベート・エンドポイントを介してモデルにアクセスするには、エンドポイント・サブネットへのプライベート接続を持つネットワークからクライアントを実行し、プライベート・エンドポイントFQDNを使用してモデルをコールします。

一般的なアクセス・パスは次のとおりです。

• 同じVCN: VCN内のサブネット(ルーティング、ネットワーク・セキュリティ・グループ(NSG)およびセキュリティ・リストの対象)から。
• ピアリングされたVCNs:ローカル・ピアリング・ゲートウェイ(LPG)または動的ルーティング・ゲートウェイ(DRGベース)接続(ハブアンドスポーク)を介して行われます。
• オンプレミス/その他のプライベート・ネットワーク:インターネット・プロトコル・セキュリティ(IPSec) VPNまたはFastConnectを介してDRGに。
• 管理: OCI Bastionを使用してVCN内のプライベート・ホストにアクセスし、そこからエンドポイントをコールします。

プライベート・エンドポイントを作成する前に、プライベート・エンドポイントの前提条件を完了し、プライベート・サブネットを含むVCNがあることを確認します。

デフォルトでは、テナンシには最大5つのプライベート・エンドポイントを含めることができます。さらに作成するには、生成AIサービスのprivate-endpoint-countのサービス制限の引上げをリクエストします。

次のタスクを実行して、プライベート・エンドポイントとそのセキュリティ属性を作成および管理できます:

• プライベート・エンドポイントの作成
• プライベート・エンドポイントの一覧表示
• プライベート・エンドポイントの詳細の取得
• プライベート・エンドポイントの更新
• プライベート・エンドポイントの移動
• プライベート・エンドポイントの削除