エンドポイントを作成しています
OCI生成AIのホスティング専用AIクラスタで、カスタム・モデル、事前トレーニング済モデルまたはインポート済モデルのエンドポイントを作成します。
免責条項
当社のコンテンツモデレーション(CM)およびプロンプトインジェクション(PI)ガードレールは、多言語ベンチマークデータセットの範囲で評価されています。ただし、実際のパフォーマンスは、コンテンツがAIによって生成され、エラーや欠落が含まれている可能性があるため、顧客提供のデータに存在する特定の言語、ドメイン、データ配信および使用パターンによって異なる場合があります。そのため、これは情報提供のみを目的としており、専門的なアドバイスとは見なすべきではなく、OCIでは、すべての実際の導入で同一のパフォーマンス特性が観察される保証はありません。OCI Responsible AIチームは、これらのモデルを継続的に改善しています。
オラクルのコンテンツ・モデレーション機能は、公開されている最大規模の多言語ベンチマーク・データセットの1つであるRTPLXに対して評価されており、38以上の言語に対応しています。ただし、コンテンツはAIによって生成され、エラーや欠落が含まれている可能性があるため、これらの結果は適切な注意を払って解釈する必要があります。多言語評価は、本質的にパブリック・データセットのスコープ、表現性および注釈の慣行によってバインドされ、RTPLXで観測されるパフォーマンスは、実際のコンテキスト、ドメイン、方言または使用パターンすべてに完全には一般化されない場合があります。そのため、調査結果は情報提供のみを目的としており、専門的なアドバイスとはみなされません。
モデルをプライベート・エンドポイントに追加するには、まずプライベート・エンドポイントを作成してからこのページに戻り、モデルをアタッチするステップを示します。
プライベート・エンドポイントでは、事前トレーニング済モデルとカスタム・モデルのみがサポートされます。インポートされたモデルはサポートされていません。
「エンドポイント」リスト・ページで、「エンドポイントの作成」を選択します。リスト・ページの検索に関するヘルプが必要な場合は、エンドポイントのリストを参照してください。
エンドポイント情報
ホスティング構成
ネットワーキング・リソース(事前トレーニング済モデルおよびカスタム・モデル用)
次のいずれかのオプションを選択します。- パブリック・エンドポイント
- プライベート・エンドポイント: このオプションを選択する場合は、プライベート・エンドポイントのコンパートメントを選択し、使用するプライベート・エンドポイントを選択します(インポートされたモデルには使用できません。)
デフォルトでは、インポートされたモデルにはパブリック・エンドポイントがあります。ガードレール(事前トレーニング済およびカスタム・モデル用)
ノート
ガードレールは、インポートされたモデルでは使用できません。エンドポイントを作成するには、endpoint createコマンドおよび必須パラメータを使用します:
oci generative-ai endpoint create --model-id <model-OCID> --compartment-id <compartment-OCID> --dedicated-ai-cluster-id <hosting-dedicated-AI-cluster-OCID> [OPTIONS]CLIコマンドのパラメータおよび値の完全なリストは、CLIコマンド・リファレンスを参照してください。
ノート
事前トレーニング済モデルの場合、OCIDのかわりに、コンソールのプレイグラウンドにリストされているとおりにモデル名を使用できます。このOCIモデル名は、モデルの詳細ページの生成AIで提供される事前トレーニング済基礎モデルでも確認できます。CreateEndpoint操作を実行してエンドポイントを作成します。
ノート
事前トレーニング済モデルの場合、OCIDのかわりに、コンソールのプレイグラウンドにリストされているとおりにモデル名を使用できます。このOCIモデル名は、モデルの詳細ページの生成AIで提供される事前トレーニング済基礎モデルでも確認できます。