에이전트 허브에서 대규모 언어 모델(LLM)을 사용하는 방법

에이전트 허브는 구성된 LLM(대형 언어 모델)을 사용하여 오케스트레이션을 지원하고 사용자 요청에 직접 응답을 제공합니다.

에이전트를 선택하지 않고 프롬프트를 입력하면 오케스트레이터는 구성된 LLM을 사용하여 요청 처리 방법을 결정합니다. 요청에 특수 에이전트 또는 도구가 필요하지 않은 경우 에이전트 허브는 LLM을 사용하여 직접 응답할 수 있습니다.

LLM과 에이전트는 같은 것이 아닙니다. LLM은 일반적인 언어 이해 및 생성 기능을 제공하는 반면, 에이전트는 특수 지침, 도구 및 기타 기능을 사용하여 특정 작업을 수행하도록 설계되었습니다. 에이전트는 자체 구성된 LLM을 사용할 수도 있습니다.

에이전트 허브에서 사용 가능한 모델은 선택한 처리 영역에 따라 달라집니다. 에이전트 허브 관리자는 통합관리 및 직접 응답을 위해 처리 영역과 사용 가능한 모델을 선택합니다.

에이전트 허브에서 요청을 처리하는 방법에 대한 자세한 내용은 에이전트 허브에서 요청을 처리하는 방법을 참조하십시오.

처리 영역 및 모델 구성에 대한 자세한 내용은 에이전트 허브 모델 구성 이해를 참조하십시오.