Utilisation des grands modèles de langage (LLM) par Agent Hub
Le hub d'agent utilise un grand modèle de langage (LLM) configuré pour prendre en charge l'orchestration et fournir des réponses directes aux demandes utilisateur.
Lorsque vous entrez une invite sans sélectionner d'agent, l'orchestrateur utilise le LLM configuré pour aider à déterminer comment gérer votre demande. Si votre demande ne nécessite pas d'agent ou d'outil spécialisé, Agent Hub peut utiliser le LLM pour répondre directement.
Un LLM et un agent ne sont pas la même chose. Un LLM fournit des fonctionnalités générales de compréhension et de génération du langage, tandis qu'un agent est conçu pour effectuer des tâches spécifiques à l'aide d'instructions, d'outils et d'autres fonctionnalités spécialisés. Les agents peuvent également utiliser leurs propres LLM configurés.
Les modèles disponibles dans le hub d'agent dépendent de la région de traitement sélectionnée. Un administrateur Agent Hub sélectionne la région de traitement et un modèle disponible pour l'orchestration et les réponses directes.
Pour plus d'informations sur le traitement des demandes par le hub d'agent, reportez-vous à Traitement des demandes par le hub d'agent.
Pour plus d'informations sur la configuration de la région de traitement et du modèle, reportez-vous à Présentation de la configuration du modèle du hub d'agent.