Informazioni sui guardrail dell'hub agente

I guardrail aiutano a proteggere le interazioni dell'hub agente rilevando o impedendo specifici tipi di contenuti o comportamenti indesiderati. Gli amministratori dell'hub agente configurano i guardrail che si applicano all'orchestratore dell'hub agente.

Agent Hub fornisce guardrail per informazioni di identificazione personale (PII), moderazione dei contenuti e rilevamento rapido dell'iniezione.

Le modifiche alle impostazioni del guardrail diventano effettive subito dopo averle salvate.

Informazioni di identificazione personali

Il guardrail delle informazioni di identificazione personale (PII, Personally Identifiable Information) consente di proteggere le informazioni riservate rilevando le informazioni di identificazione personale nell'input dell'utente e nelle risposte generate. Le informazioni PII possono includere informazioni quali nomi, indirizzi e-mail, numeri di telefono e indirizzi fisici.

Quando la protezione è abilitata, il guardrail impedisce che le informazioni riservate vengano esposte durante le interazioni con l'hub agente.

Moderazione contenuto

Il guardrail della moderazione dei contenuti rileva contenuti potenzialmente dannosi o inappropriati nell'input dell'utente e nelle risposte generate. Ciò può includere contenuti offensivi, sessuali, violenti, tossici, dispregiativi o basati su molestie.

Quando la protezione è abilitata, il guardrail aiuta a evitare che i contenuti che soddisfano i criteri di rilevamento vengano elaborati o generati.

Prompt - Rilevamento iniezione

Il guardrail Prompt injection detection rileva istruzioni potenzialmente dannose nell'input dell'utente che tentano di sostituire le istruzioni o il comportamento previsto di un sistema AI.

Quando la protezione è abilitata, il guardrail aiuta a evitare che i tentativi di iniezione rapida rilevati influenzino l'elaborazione delle richieste.

Guardrail e altre protezioni per piattaforme

I guardrail configurati in Amministrazione hub agente si applicano all'orchestratore dell'hub agente. Non sostituiscono o controllano i guardrail configurati per i singoli agenti.

Quando l'hub agente richiama un agente, la configurazione del guardrail dell'agente viene applicata all'elaborazione. Le protezioni fornite da un agente dipendono dalla configurazione dell'agente.

Perché questo è importante

I guardrails forniscono agli amministratori controlli per proteggere le interazioni dell'hub agente da tipi specifici di contenuti o comportamenti indesiderati. Capire da cosa protegge ogni guardrail può aiutare gli amministratori a determinare quali protezioni sono appropriate per l'ambiente Agent Hub della propria organizzazione.

Per informazioni sulla modifica delle impostazioni del guardrail, vedere Configurare i guardrail dell'hub agente.