OCI生成AIでのオンデマンド・モードでのプライベート・エンドポイントの使用

事前トレーニング済モデルには、オンデマンド・モードのOCI生成AIプライベート・エンドポイントからアクセスできるようになりました。

OCI生成AIプライベート・エンドポイントは、OCI仮想クラウド・ネットワーク(VCN)内のプライベートIPアドレスです。生成AIサービスは、VCNのプライベート・サブネットにプライベート・エンドポイントを設定します。プライベート・エンドポイントは、VCN内の別のVNICと考えてください。セキュリティ・ルールを使用して、他のVNICと同様にアクセスを制御します。サービスによってこのVNICが作成され、ユーザーがサブネットとそのセキュリティ・ルールを管理します。

オンデマンド・サービング・モードのプライベート・エンドポイントを介して生成AIモデルにアクセスするには、プライベート・エンドポイントを作成または編集するときに「オンデマンド・モードでの使用を許可」を選択します。プライベート・エンドポイントを作成すると、プライベート・サブネットに作成したコンピュート・インスタンスを介してオンデマンド・モデルにアクセスするために使用できる完全修飾ドメイン名(FQDN)を受け取ります。

生成AIのプライベート・エンドポイントについて学習します。サービスの詳細は、生成AIのドキュメントを参照してください。