Descripción de las guías de Agent Hub

Las guías de protección ayudan a proteger las interacciones del hub de agente mediante la detección o la prevención de determinados tipos de contenido o comportamiento no deseados. Los administradores del hub de agente configuran las guías de protección que se aplican al orquestador del hub de agente.

Agent Hub proporciona guías para la información de identificación personal (PII), la moderación del contenido y la detección de inyecciones rápidas.

Los cambios en la configuración de la barandilla se aplican inmediatamente después de guardarlos.

Información de identificación de persona

La guía de información de identificación personal (PII) ayuda a proteger la información confidencial mediante la detección de PII en la entrada del usuario y las respuestas generadas. La PII puede incluir información como nombres, direcciones de correo electrónico, números de teléfono y direcciones físicas.

Cuando la protección está activada, la guía ayuda a evitar que la información confidencial se exponga durante las interacciones del hub de agente.

Moderación del Contenido

La guía de moderación de contenido detecta contenido potencialmente dañino o inapropiado en la entrada del usuario y las respuestas generadas. Esto puede incluir contenido odioso, sexual, violento, tóxico, despectivo o basado en el acoso.

Cuando la protección está activada, la barandilla ayuda a evitar que el contenido que cumple los criterios de detección se procese o genere.

Petición de datos - Detección de inyección

La guía de detección de inyección de petición de datos detecta instrucciones potencialmente maliciosas en la entrada del usuario que intentan anular las instrucciones o el comportamiento previstos de un sistema AI.

Cuando la protección está activada, la guía de protección ayuda a evitar que los intentos de inyección de mensajes detectados afecten el procesamiento de solicitudes.

Barandillas y otras protecciones de plataforma

Las guías de protección configuradas en la administración de Agent Hub se aplican al orquestador de Agent Hub. No reemplazan ni controlan las barandillas configuradas para agentes individuales.

Cuando el hub de agente llama a un agente, la configuración de la barrera de ese agente se aplica a su procesamiento. Las protecciones proporcionadas por un agente dependen de cómo esté configurado ese agente.

Por qué es importante

Las guías de protección proporcionan a los administradores controles para proteger las interacciones del hub de agente de tipos específicos de contenido o comportamiento no deseado. La comprensión de lo que protege cada barrera puede ayudar a los administradores a determinar qué protecciones son adecuadas para el entorno de Agent Hub de su organización.

Para obtener información sobre cómo cambiar los valores de las guías, consulte Configure Agent Hub Guardrails.