Entender os Guardrails do Agent Hub
Guardrails ajudam a proteger as interações do Hub de Agentes, detectando ou impedindo tipos especificados de conteúdo ou comportamento indesejado. Os administradores do Hub de Agentes configuram guardrails que se aplicam ao orquestrador do Hub de Agentes.
O Agent Hub fornece guardrails para informações de identificação pessoal (PII), moderação de conteúdo e detecção de injeção imediata.
As alterações nas configurações do corrimão entram em vigor imediatamente depois que você as salva.
Informações de Identificação Personalizada
O corrimão Informações de identificação pessoal (PII) ajuda a proteger informações confidenciais detectando PII na entrada do usuário e nas respostas geradas. As PII podem incluir informações como nomes, endereços de email, números de telefone e endereços físicos.
Quando a proteção está ativada, a proteção ajuda a evitar que informações confidenciais sejam expostas durante as interações do Hub do Agente.
Moderação do Conteúdo
O corrimão de proteção Moderação de conteúdo detecta conteúdo potencialmente prejudicial ou inadequado na entrada do usuário e nas respostas geradas. Isso pode incluir conteúdo odioso, sexual, violento, tóxico, depreciativo ou baseado em assédio.
Quando a proteção está ativada, o guardrail ajuda a evitar que o conteúdo que atende aos critérios de detecção seja processado ou gerado.
Detecção de Injeção de Prompt
O corrimão de proteção Detecção de injeção de prompt detecta instruções potencialmente maliciosas na entrada do usuário que tentam substituir as instruções ou o comportamento pretendidos de um sistema AI.
Quando a proteção está ativada, o guardrail ajuda a evitar que as tentativas de injeção de prompt detectadas afetem o processamento de solicitações.
Guardrails e outras proteções da plataforma
Os guardrails configurados na Administração do Hub de Agentes se aplicam ao orquestrador do Hub de Agentes. Eles não substituem ou controlam os guardrails configurados para agentes individuais.
Quando o Agent Hub chama um agente, a própria configuração do guardrail desse agente se aplica ao seu processamento. As proteções fornecidas por um agente dependem de como ele está configurado.
Por que isso importa
Os Guardrails fornecem aos administradores controles para proteger as interações do Agent Hub de tipos específicos de conteúdo ou comportamento indesejado. Compreender o que cada guardrail protege pode ajudar os administradores a determinar quais proteções são apropriadas para o ambiente do Agent Hub de sua organização.
Para obter informações sobre como alterar as definições do corrimão, consulte Configurar Guardrails do Hub do Agente.