Agent Hub 如何使用大型语言模型 (LLM)

Agent Hub 使用配置的大语言模型 (LLM) 来支持编排并为用户请求提供直接响应。

在不选择代理的情况下输入提示时,编排程序会使用配置的 LLM 来帮助确定如何处理请求。如果您的请求不需要专门的代理或工具,则代理中心可以使用 LLM 直接响应。

LLM 和代理人不是同一回事。LLM 提供通用的语言理解和生成功能,而代理则使用专门的指令、工具和其他功能来执行特定任务。代理还可以使用自己配置的 LLM。

代理中心中可用的模型取决于所选的处理区域。代理中心管理员选择处理区域和可用于编排和直接响应的模型。

有关 Agent Hub 如何处理请求的信息,请参见 How Agent Hub Processes Requests 。

有关配置处理区域和模型的信息,请参阅了解代理中心模型配置。