Agent Hub 모델 구성 이해

에이전트 허브는 구성된 LLM(대형 언어 모델)을 사용하여 오케스트레이션을 지원하고 직접 응답을 제공합니다. 에이전트 허브 관리자는 에이전트 허브에서 이러한 기능에 사용하는 처리 영역 및 모델을 구성합니다.

구성에 사용 가능한 모델은 선택한 처리 영역에 따라 달라집니다. 관리자가 지역을 선택하면 에이전트 허브는 해당 지역에 사용할 수 있는 모델 목록을 제공합니다. 모델 가용성은 지역마다 다를 수 있으며 시간에 따라 변경될 수 있습니다.

처리 영역 이해

처리 영역은 에이전트 허브가 모델 처리를 수행하는 위치를 결정합니다. 선택할 수 있는 모델은 선택한 영역에 따라 다릅니다.

모델 가용성 이해

Agent Hub에서 사용 가능한 처리 리전 및 모델은 Oracle Cloud Infrastructure(OCI) Generative AI 가용성을 기반으로 합니다. 모델 가용성은 지역에 따라 다르며 시간에 따라 변경될 수 있습니다.

지역별 모델 가용성에 대한 최신 정보는 지역별 생성형 AI 모델을 참고하세요.

구성된 모델 이해

관리자가 선택한 모델은 에이전트 허브가 사용자 요청을 평가하고 특수 에이전트 또는 도구가 필요하지 않은 경우 응답을 생성하는 데 사용하는 구성된 LLM이 됩니다.

에이전트 허브가 사전 선택된 에이전트 없이 프롬프트를 평가하는 경우 통합관리자는 구성된 LLM을 사용하여 요청 처리 방법을 결정합니다. 특수 에이전트 또는 도구가 필요하지 않은 경우 에이전트 허브는 구성된 LLM을 사용하여 직접 응답을 제공할 수 있습니다.

구성된 에이전트 허브 모델은 개별 에이전트가 사용하는 LLM을 결정하지 않습니다. 에이전트는 해당 에이전트가 개발 및 구성된 방식에 따라 자체 처리의 일부로 모델을 사용할 수 있습니다.

이것이 중요한 이유

처리 영역 및 모델 구성에 따라 통합관리 및 직접 응답에 사용할 LLM 에이전트 허브가 결정됩니다. 영역과 모델 가용성 간의 관계를 이해하면 관리자가 조직의 요구 사항을 충족하는 사용 가능한 모델을 선택할 수 있습니다.

이러한 설정 구성에 대한 자세한 내용은 처리 영역 및 모델 구성을 참조하십시오.

사용자 요청을 처리할 때 에이전트 허브에서 구성된 LLM을 사용하는 방법에 대한 자세한 내용은 에이전트 허브에서 LLM(대형 언어 모델)을 사용하는 방법을 참조하십시오.