Agent Hub Guardrails verstehen

Guardrails schützen Agent Hub-Interaktionen, indem sie bestimmte Arten von unerwünschtem Inhalt oder Verhalten erkennen oder verhindern. Agent Hub-Administratoren konfigurieren Guardrails, die für den Agent Hub-Orchestrator gelten.

Agent Hub bietet Leitplanken für personenbezogene Daten (PII), Inhaltsmoderation und Prompt-Injection-Erkennung.

Änderungen an den Leitplankeneinstellungen werden sofort nach dem Speichern wirksam.

Persönlich identifizierbare Informationen

Der Guardrail Persönlich identifizierbare Informationen (PII) schützt sensible Informationen, indem er personenbezogene Daten in Benutzereingaben und generierten Antworten erkennt. PII können Informationen wie Namen, E-Mail-Adressen, Telefonnummern und physische Adressen enthalten.

Wenn der Schutz aktiviert ist, verhindert die Leitplanke, dass sensible Informationen während Agent Hub-Interaktionen angezeigt werden.

Inhaltsmoderation

Der Contentmoderation Guardrail erkennt potenziell schädliche oder unangemessene Inhalte in Benutzereingaben und generierten Antworten. Dies kann hasserfüllte, sexuelle, gewalttätige, giftige, abwertende oder belästigungsbasierte Inhalte umfassen.

Wenn der Schutz aktiviert ist, verhindert die Leitplanke, dass Inhalte, die den Erkennungskriterien entsprechen, verarbeitet oder generiert werden.

Prompt-Injection-Erkennung

Der Guardrail zur Prompt-Injection-Erkennung erkennt potenziell böswillige Anweisungen in der Benutzereingabe, die versuchen, die beabsichtigten Anweisungen oder das beabsichtigte Verhalten eines AI-Systems außer Kraft zu setzen.

Wenn der Schutz aktiviert ist, verhindert die Leitplanke, dass erkannte Prompt-Injection-Versuche die Anforderungsverarbeitung beeinträchtigen.

Geländer und andere Plattformschutz

Guardrails, die in der Agent Hub-Administration konfiguriert sind, gelten für den Agent Hub-Orchestrator. Sie ersetzen oder steuern nicht die Leitschienen, die für einzelne Agenten konfiguriert sind.

Wenn Agent Hub einen Agent aufruft, gilt die eigene Guardrail-Konfiguration dieses Agents für die Verarbeitung. Der von einem Agent bereitgestellte Schutz hängt davon ab, wie dieser Agent konfiguriert ist.

Warum das wichtig ist

Guardrails bieten Administratoren Kontrollen zum Schutz von Agent Hub-Interaktionen vor bestimmten Typen unerwünschter Inhalte oder Verhaltensweisen. Wenn Sie verstehen, vor welchen Schutz jede Guardrail schützt, können Administratoren feststellen, welcher Schutz für die Agent Hub-Umgebung ihrer Organisation geeignet ist.

Informationen zum Ändern der Guardrail-Einstellungen finden Sie unter Agent Hub Guardrails konfigurieren.