OCI生成AIのガードレール

通知モードでは、エンドポイントは推論を実行し、確認のためにレスポンスにガードレール結果を含めます。プロンプト・インジェクション・スコアはバイナリ(0または1)であり、確率範囲ではありません。

例:

{
  "inferenceProtectionResult": {
    "input": {
      "contentModeration": {
        "categories": [
          { "name": "OVERALL", "score": 1.0 },
          { "name": "BLOCKLIST", "score": 1.0 }
        ]
      }
    },
    "personallyIdentifiableInformation": [
      {
        "length": 15,
        "offset": 142,
        "text": "abc@example.com",
        "label": "EMAIL",
        "score": 0.95
      },
      {
        "length": 12,
        "offset": 50,
        "text": "111-111-1111",
        "label": "TELEPHONE_NUMBER",
        "score": 0.95
      }
    ],
    "promptInjection": { "score": 1.0 },
    "output": {}
  }
}

ブロック・モードでは、違反が検出された場合、リクエストはエラーで拒否されます。例:

{
  "code": "400",
  "message": "Inappropriate content detected!!!"
}

ブロック・モードでは、エラー・メッセージに詳細なカテゴリ情報は含まれません。また、ApplyGuardrails APIには、ブロック・モード・エラー処理シナリオのCMおよびPIスコア(カテゴリ全体の内訳ではない)のみが用意されています。

エンドポイントの場合、ガードレールはセキュアなAPIベースの適用によってリアルタイムで適用され、入力と出力の両方に適用できます。

OCI生成AIコンテンツ・モデレーションおよびプロンプト・インジェクション・ガードレールは、次の言語および方言バリアントをサポートしています。

• アラビア語(エジプト、レバンチン、サウジアラビア)

• BCMS (ボスニア語、クロアチア語、モンテネグロ語、セルビア語)
• ブルガリア語*
• カタロニア語*
• 中国語(標準簡体字、標準繁体字)
• チェコ語
• デンマーク語
• オランダ語
• 英語
• エストニア語*
• フィンランド語
• フランス語(フランス)
• ドイツ語(ドイツ、スイス*)
• ギリシャ語
• ヘブライ語
• ヒンディー語
• ハンガリー語
• インドネシア語
• イタリア語
• 日本語
• 韓国語
• ラトビア語*
• リトアニア語*
• ノルウェー語(ブークモール)
• ポーランド語
• ポルトガル語(ブラジル、ポルトガル)
• ルーマニア語*
• ロシア語(ロシア、ウクライナ)
• スロバキア語*
• スロベニア語*
• スペイン語(スペイン)
• スワヒリ語
• スウェーデン
• タイ語
• トルコ語
• ウクライナ語
• ベトナム語*
• ウェールズ語

アスタリスク(*)でマークされた言語の説明は、GitHubのRTP-LXドキュメントの構造を参照してください。

PII検出では、次の言語のみがサポートされます。

• 英語