Wie Agent Hub Large Language Models (LLMs) verwendet
Agent Hub verwendet ein konfiguriertes Large Language Model (LLM), um die Orchestrierung zu unterstützen und direkte Antworten auf Benutzeranforderungen bereitzustellen.
Wenn Sie einen Prompt eingeben, ohne einen Agent auszuwählen, verwendet der Orchestrator das konfigurierte LLM, um zu bestimmen, wie Ihre Anforderung verarbeitet werden soll. Wenn für Ihre Anfrage kein spezieller Agent oder Tool erforderlich ist, kann Agent Hub das LLM verwenden, um direkt zu antworten.
Ein LLM und ein Agent sind nicht dasselbe. Ein LLM bietet allgemeine Sprachkenntnisse und Generierungsfunktionen, während ein Agent bestimmte Aufgaben mithilfe spezieller Anweisungen, Tools und anderer Funktionen ausführen kann. Agents können auch ihre eigenen konfigurierten LLMs verwenden.
Die im Agent Hub verfügbaren Modelle hängen von der ausgewählten Verarbeitungsregion ab. Ein Agent Hub-Administrator wählt die Verarbeitungsregion und ein verfügbares Modell für Orchestrierung und direkte Antworten aus.
Informationen dazu, wie Agent Hub Anforderungen verarbeitet, finden Sie unter Agent-Hub verarbeitet Anforderungen.
Informationen zum Konfigurieren der Verarbeitungsregion und des Verarbeitungsmodells finden Sie unter Agent Hub-Modellkonfiguration.