瞭解代理程式中心模型組態
代理程式 Hub 使用設定的大型語言模型 (LLM) 來支援協調,並提供直接回應。代理程式中心管理員可設定代理程式中心用於這些功能的處理區域和模型。
可用於組態的模型取決於選取的處理區域。當管理員選取區域時,「代理程式中心」會提供該區域可用的模型清單。模型可用性在各區域之間可能會有所不同,而且可能會隨著時間變化。
瞭解處理區域
處理區域會決定「代理程式中心」執行模型處理的位置。可供選取的模型視選取的區域而定。
瞭解模型可用性
Agent Hub 中可用的處理區域和模型是以 Oracle Cloud Infrastructure (OCI) Generative AI 可用性為基礎。模型可用性因區域而異,並且可能會隨時間變化。
如需按區域分類之模型可用性的目前資訊,請參閱按區域分類的生成式 AI 模型。
瞭解設定的模型
管理員選取的模型會成為設定的 LLM,而 Agent Hub 會在不需要特殊代理程式或工具時,用來評估使用者要求並產生回應。
當「代理程式中心」在未預先選取代理程式的情況下評估提示時,協調器會使用已設定的 LLM 來協助判斷如何處理要求。如果不需要專用代理程式或工具,則 Agent Hub 可以使用已設定的 LLM 直接提供回應。
設定的「代理程式中心」模型無法判斷個別代理程式使用的 LLM。代理程式可以根據這些代理程式的開發和設定方式,在自己的處理過程中使用模型。
這有什麼重要的
處理區域與模型組態會決定 LLM 代理程式中心用於協調與直接回應。瞭解區域與模型可用性之間的關係,可協助管理員選取符合組織需求的可用模型。
如需有關設定這些設定值的資訊,請參閱設定處理區域和模型。
如需有關代理程式 Hub 在處理使用者要求時如何使用已設定 LLM 的資訊,請參閱代理程式中心如何使用大型語言模型 (LLM) 。