Agent Hub Guardrails 이해

가드레일은 지정된 유형의 원치 않는 콘텐츠 또는 동작을 감지하거나 방지하여 에이전트 허브 상호 작용을 보호합니다. 에이전트 허브 관리자는 에이전트 허브 통합관리자에 적용되는 보호 한계선을 구성합니다.

Agent Hub는 PII(개인 식별 정보), 콘텐츠 조정 및 프롬프트 삽입 감지에 대한 보호 한계선을 제공합니다.

가드레일 설정에 대한 변경사항은 저장한 후 즉시 적용됩니다.

개인 식별 가능 정보

PII(개인 식별 정보) 보호 장치는 사용자 입력 및 생성된 응답에서 PII를 감지하여 중요한 정보를 보호합니다. PII에는 이름, 전자 메일 주소, 전화 번호 및 물리적 주소와 같은 정보가 포함될 수 있습니다.

보호가 사용으로 설정된 경우 보호 장치는 에이전트 허브 상호 작용 중 민감한 정보가 노출되지 않도록 방지합니다.

콘텐츠 조정

콘텐츠 조정 난간은 사용자 입력 및 생성된 응답에서 잠재적으로 유해하거나 부적절한 콘텐츠를 감지합니다. 여기에는 증오, 성적, 폭력적, 독성, 특례적 또는 괴롭힘 기반 콘텐츠가 포함될 수 있습니다.

보호가 사용으로 설정된 경우 가드레일은 감지 조건을 충족하는 콘텐츠가 처리되거나 생성되지 않도록 합니다.

프롬프트 주입 감지

프롬프트 주입 감지 난간은 AI 시스템의 의도된 지침 또는 동작을 대체하려고 시도하는 사용자 입력에서 잠재적으로 악의적인 지침을 감지합니다.

보호가 사용으로 설정된 경우 가드레일은 감지된 프롬프트 주입 시도가 요청 처리에 영향을 미치지 않도록 방지합니다.

보호대 및 기타 플랫폼 보호

에이전트 허브 관리에 구성된 가드레일이 에이전트 허브 통합관리자에 적용됩니다. 개별 에이전트에 대해 구성된 난간을 교체하거나 제어하지 않습니다.

에이전트 허브가 에이전트를 호출하면 해당 에이전트의 고유 보호대 구성이 해당 처리에 적용됩니다. 에이전트가 제공하는 보호는 해당 에이전트의 구성 방법에 따라 달라집니다.

이것이 중요한 이유

가드레일은 관리자에게 특정 유형의 원치 않는 콘텐츠 또는 동작으로부터 에이전트 허브 상호 작용을 보호할 수 있는 제어 기능을 제공합니다. 관리자가 조직의 Agent Hub 환경에 적합한 보호 기능을 결정할 수 있도록 각 보호대가 보호하는 기능을 이해할 수 있습니다.

난간 설정 변경에 대한 자세한 내용은 에이전트 허브 난간 구성을 참조하십시오.