OCI生成AI専用AIクラスタ・エンドポイントへのAIガードレールの追加
- サービス: 生成AI
- リリース日: 2026年2月26日
専用AIクラスタでホストされているOCI生成AIエンドポイントで、コンテンツ・モデレーション(CM)、プロンプト・インジェクション(PI)および個人を特定できる情報(PII)のAIガードレールを有効にできるようになりました。この機能では、商用リージョンでのチャットおよびテキスト埋込みエンドポイントがサポートされ、コンソールおよびAPI、SDKおよびCLIを介して使用できます。
エンドポイントを作成または更新するときにガードレールを追加し、次のいずれかのモードを選択できます。
- 通知:推論を実行し、確認のために応答のガードレール結果を返します。
- ブロック:違反が検出されたときにリクエストを却下します。レスポンスの例: HTTP 400: "不適切なコンテンツが検出されました!"。
ガードレールは、エンドポイント推論の一部としてリアルタイムで実施されます。APIの例および設定の詳細は、OCI生成AIガードレールについて、エンドポイントの作成およびエンドポイントの更新を参照してください。
免責条項
当社のコンテンツモデレーション(CM)およびプロンプトインジェクション(PI)ガードレールは、多言語ベンチマークデータセットの範囲で評価されています。ただし、実際のパフォーマンスは、コンテンツがAIによって生成され、エラーや欠落が含まれている可能性があるため、顧客提供のデータに存在する特定の言語、ドメイン、データ配信および使用パターンによって異なる場合があります。したがって、これは情報提供のみを目的としており、専門的なアドバイスとはみなされません。OCIでは、すべての実際のデプロイメントで同じパフォーマンス特性が観察される保証はありません。OCI Responsible AIチームは、これらのモデルを継続的に改善しています。
オラクルのコンテンツ・モデレーション機能は、公開されている最大規模の多言語ベンチマーク・データセットの1つであるRTPLXに対して評価されており、38以上の言語に対応しています。ただし、これらの結果は、コンテンツがAIによって生成され、エラーや欠落が含まれている可能性があるため、適切な注意を払って解釈する必要があります。多言語評価は、本質的にパブリック・データセットのスコープ、表現力および注釈の慣行によって制限され、RTPLXで観測されるパフォーマンスは、すべての実際のコンテキスト、ドメイン、方言または使用パターンに完全には一般化されない場合があります。したがって、調査結果は情報提供のみを目的としており、専門的なアドバイスとはみなされません。