Comprendre les garde-corps du hub d'agent

Les garde-corps aident à protéger les interactions du hub d'agent en détectant ou en empêchant certains types de contenu ou de comportement indésirables. Les administrateurs du hub d'agent configurent des garde-fous qui s'appliquent à l'orchestrateur du hub d'agent.

Agent Hub fournit des garde-fous pour les informations d'identification personnelle (PII), la modération de contenu et la détection d'injection rapide.

Les modifications apportées aux paramètres de garde-corps prennent effet immédiatement après leur enregistrement.

Informations d'identification personnelles

La glissière de sécurité Informations d'identification personnelle permet de protéger les informations sensibles en détectant les informations d'identification personnelle dans les entrées utilisateur et les réponses générées. Les informations d'identification personnelle peuvent inclure des informations telles que des noms, des adresses e-mail, des numéros de téléphone et des adresses physiques.

Lorsque la protection est activée, la garde-corps empêche l'affichage d'informations sensibles lors des interactions avec le hub d'agent.

Modération du contenu

La garde-corps de modération du contenu détecte tout contenu potentiellement dangereux ou inapproprié dans les entrées utilisateur et les réponses générées. Cela peut inclure des contenus haineux, sexuels, violents, toxiques, péjoratifs ou fondés sur le harcèlement.

Lorsque la protection est activée, la garde-corps empêche le traitement ou la génération de contenus répondant aux critères de détection.

Détection d'injection d'invite

La garde-corps de détection des injections d'invite détecte les instructions potentiellement malveillantes dans les entrées utilisateur qui tentent de remplacer les instructions ou le comportement prévus d'un système AI.

Lorsque la protection est activée, la garde-corps empêche les tentatives d'injection rapide détectées d'affecter le traitement des demandes.

Garde-corps et autres protections de plate-forme

Les garde-corps configurés dans l'administration du hub d'agent s'appliquent à l'orchestrateur du hub d'agent. Ils ne remplacent ni ne contrôlent les garde-corps configurés pour des agents individuels.

Lorsque le hub d'agent appelle un agent, la configuration de garde-corps de cet agent s'applique à son traitement. Les protections fournies par un agent dépendent de la façon dont cet agent est configuré.

Pourquoi cela compte

Les garde-corps fournissent aux administrateurs des contrôles pour protéger les interactions du hub d'agent contre des types spécifiques de contenu ou de comportement indésirables. Comprendre ce que chaque garde-corps protège peut aider les administrateurs à déterminer quelles protections sont appropriées pour l'environnement Agent Hub de leur organisation.

Pour plus d'informations sur la modification des paramètres de garde-corps, reportez-vous à Configuration des garde-corps du hub d'agent.