了解代理中心模型配置

Agent Hub 使用配置的大语言模型 (LLM) 来支持编排并提供直接响应。Agent Hub 管理员配置 Agent Hub 用于这些功能的处理区域和模型。

可用于配置的模型取决于所选的处理区域。管理员选择区域时,Agent Hub 将提供可用于该区域的模型列表。模型可用性可能因区域而异,并且可能会因时间而异。

了解处理区域

处理区域确定代理中心执行模型处理的位置。可供选择的模型取决于所选区域。

了解模型可用性

Agent Hub 中提供的处理区域和模型基于 Oracle Cloud Infrastructure (OCI) Generative AI 的可用性。模型可用性因区域而异,并且可能会随时间而变化。

有关按区域列出的模型可用性的当前信息,请参阅按区域列出的生成式 AI 模型。

了解配置的模型

管理员选择的模型将成为代理中心用于评估用户请求并在不需要专门代理或工具时生成响应的已配置 LLM。

当 Agent Hub 在没有预选代理的情况下评估提示时,编排程序会使用配置的 LLM 来帮助确定如何处理请求。如果不需要专用代理或工具,则代理中心可以使用配置的 LLM 直接提供响应。

配置的代理中心模型无法确定单个代理使用的 LLM。代理可以将模型用作自己处理的一部分,具体取决于这些代理的开发和配置方式。

为什么很重要

处理区域和模型配置确定 LLM 代理中心用于编排和直接响应。了解区域和模型可用性之间的关系有助于管理员选择符合其组织要求的可用模型。

有关配置这些设置的信息,请参阅配置处理区域和模型。

有关 Agent Hub 如何在处理用户请求时使用配置的 LLM 的信息,请参见 How Agent Hub Uses Large Language Models (LLM) 。