Agent Hub-Modellkonfiguration verstehen
Agent Hub verwendet ein konfiguriertes Large Language Model (LLM), um die Orchestrierung zu unterstützen und direkte Antworten bereitzustellen. Ein Agent Hub-Administrator konfiguriert die Verarbeitungsregion und das Modell, die Agent Hub für diese Funktionen verwendet.
Die für die Konfiguration verfügbaren Modelle hängen vom ausgewählten Verarbeitungsbereich ab. Wenn der Administrator eine Region auswählt, stellt Agent Hub eine Liste der Modelle bereit, die für diese Region verfügbar sind. Die Modellverfügbarkeit kann sich zwischen Regionen unterscheiden und sich im Laufe der Zeit ändern.
Verarbeitungsregion verstehen
Der Verarbeitungsbereich bestimmt, wo Agent Hub die Modellverarbeitung ausführt. Welche Modelle zur Auswahl stehen, hängt von der ausgewählten Region ab.
Modellverfügbarkeit verstehen
Die in Agent Hub verfügbaren Verarbeitungsregionen und -modelle basieren auf der generativen KI-Verfügbarkeit von Oracle Cloud Infrastructure (OCI). Die Modellverfügbarkeit variiert je nach Region und kann sich im Laufe der Zeit ändern.
Aktuelle Informationen zur Modellverfügbarkeit nach Region finden Sie unter Generative KI-Modelle nach Region.
Konfiguriertes Modell verstehen
Das vom Administrator ausgewählte Modell wird zum konfigurierten LLM, das Agent Hub verwendet, um Benutzeranforderungen auszuwerten und Antworten zu generieren, wenn kein spezieller Agent oder Tool benötigt wird.
Wenn Agent Hub einen Prompt ohne einen vorab ausgewählten Agent auswertet, verwendet der Orchestrator das konfigurierte LLM, um zu bestimmen, wie die Anforderung verarbeitet werden soll. Wenn kein spezieller Agent oder Tool erforderlich ist, kann Agent Hub das konfigurierte LLM verwenden, um die Antwort direkt bereitzustellen.
Das konfigurierte Agent Hub-Modell bestimmt nicht, welches LLM ein einzelner Agent verwendet. Agents können Modelle als Teil ihrer eigenen Verarbeitung verwenden, je nachdem, wie diese Agents entwickelt und konfiguriert wurden.
Warum das wichtig ist
Die Verarbeitungsregion und Modellkonfiguration bestimmen, welcher LLM-Agent-Hub für Orchestrierung und direkte Antworten verwendet wird. Wenn Sie die Beziehung zwischen Region und Modellverfügbarkeit verstehen, können Administratoren ein verfügbares Modell auswählen, das den Anforderungen ihrer Organisation entspricht.
Informationen zum Konfigurieren dieser Einstellungen finden Sie unter Verarbeitungsregion und -modell konfigurieren.
Informationen dazu, wie Agent Hub das konfigurierte LLM bei der Verarbeitung von Benutzeranforderungen verwendet, finden Sie unter Wie Agent Hub Large Language Models (LLMs) verwendet.