エージェント・ハブ・ガードレールの理解

Guardrailsは、特定のタイプの不要なコンテンツまたは動作を検出または防止することで、エージェント・ハブの相互作用を保護するのに役立ちます。エージェント・ハブ管理者は、エージェント・ハブ・オーケストレータに適用されるガードレールを構成します。

Agent Hubは、個人を特定できる情報(PII)、コンテンツ・モデレーションおよびプロンプト・インジェクション検出用のガードレールを提供します。

ガードレール設定への変更は、保存した直後に有効になります。

個人の身元を特定する情報

個人識別可能情報(PII)ガードレールは、ユーザー入力および生成されたレスポンスのPIIを検出することで、機密情報を保護するのに役立ちます。PIIには、名前、Eメール・アドレス、電話番号、物理アドレスなどの情報を含めることができます。

保護が有効な場合、ガードレールは、エージェント・ハブの相互作用中に機密情報が公開されないようにするのに役立ちます。

コンテンツ・モデレーション

コンテンツ・モデレーション・ガードレールは、ユーザー入力および生成されたレスポンスの有害または不適切なコンテンツを検出します。これには、憎悪、性的、暴力的、毒性、軽蔑的、またはハラスメントベースのコンテンツが含まれます。

保護が有効な場合、ガードレールは、検出基準を満たすコンテンツが処理または生成されないようにするのに役立ちます。

プロンプトインジェクション検出

プロンプトインジェクション検出ガードレールは、AIシステムの意図した命令または動作をオーバーライドしようとするユーザー入力内の悪意のある可能性のある命令を検出します。

保護が有効な場合、ガードレールは、検出されたプロンプト・インジェクションの試行がリクエスト処理に影響を与えるのを防ぐのに役立ちます。

ガードレールおよびその他のプラットフォーム保護

エージェント・ハブ管理で構成されたガードレールは、エージェント・ハブ・オーケストレータに適用されます。これらは、個々のエージェント用に構成されたガードレールを置換または制御しません。

エージェント・ハブがエージェントを起動すると、そのエージェント独自のガードレール構成がその処理に適用されます。エージェントによって提供される保護は、そのエージェントの構成方法によって異なります。

重要な理由

ガードレールは、特定のタイプの不要なコンテンツまたは動作からエージェント・ハブの相互作用を保護するためのコントロールを管理者に提供します。各ガードレールの保護対象を理解することで、管理者は組織のエージェント・ハブ環境に適した保護を決定できます。

ガードレール設定の変更の詳細は、エージェント・ハブ・ガードレールの構成を参照してください。