エンドポイントの管理

OCI生成AIカスタム・モデルを推論に使用するには、まずそのモデルのエンドポイントを作成する必要があります。プレイグラウンドで使用可能な事前トレーニング済モデルのエンドポイントを作成することもできます。

エンドポイントは、モデルがユーザー・リクエストを受け入れ、モデルの生成されたテキストなどのレスポンスを返信できる専用AIクラスタ上の指定されたポイントです。エンドポイントは、ホスティング専用AIクラスタに作成します。

プライベート・エンドポイントを介してモデルにアクセスするには、まずプライベート・エンドポイントを作成してからこのページに戻り、専用AIクラスタにモデルのエンドポイントを作成する必要があります。