了解代理集线器护栏
Guardrails 通过检测或阻止指定类型的不需要的内容或行为来帮助保护 Agent Hub 的交互。Agent Hub 管理员配置应用于 Agent Hub 编排器的护栏。
Agent Hub 为个人可识别信息 (PII)、内容调节和及时注入检测提供保护。
对保护栏设置的更改将在保存后立即生效。
个人可识别信息
个人可识别信息 (Personally Identifiable Information,PII) 护栏通过检测用户输入中的 PII 和生成的响应来帮助保护敏感信息。PII 可以包括姓名、电子邮件地址、电话号码和物理地址等信息。
启用保护时,保护栏有助于防止在 Agent Hub 交互期间公开敏感信息。
内容仲裁
Content moderation 护栏可检测用户输入和生成的响应中的潜在有害或不适当的内容。这可能包括仇恨,性,暴力,有毒,贬损或基于骚扰的内容。
启用保护时,保护栏有助于防止处理或生成符合检测标准的内容。
提示注射检测
提示注入检测护栏可检测用户输入中尝试覆盖 AI 系统预期指令或行为的潜在恶意指令。
启用保护时,保护栏有助于防止检测到的提示注入尝试影响请求处理。
护栏和其他平台保护
在 Agent Hub 管理中配置的护栏将应用于 Agent Hub 编排器。它们不会替换或控制为各个代理配置的护栏。
代理中心调用代理时,该代理自己的守护进程配置将应用于其处理。代理提供的保护取决于代理的配置方式。
为什么很重要
Guardrails 为管理员提供了用于保护 Agent Hub 交互不受特定类型不需要的内容或行为的控制。了解每个护栏所保护的内容可以帮助管理员确定哪些保护适合其组织的 Agent Hub 环境。
有关更改保护栏设置的信息,请参见 Configure Agent Hub Guardrails 。