Cómo el hub de agente utiliza modelos de lenguaje grandes (LLM)
Agent Hub utiliza un modelo de lenguaje grande (LLM) configurado para soportar la orquestación y proporcionar respuestas directas a las solicitudes de los usuarios.
Cuando se introduce una petición de datos sin seleccionar un agente, el orquestador utiliza el LLM configurado para ayudar a determinar cómo manejar la solicitud. Si su solicitud no requiere un agente o una herramienta especializados, Agent Hub puede utilizar el LLM para responder directamente.
Un LLM y un agente no son lo mismo. Un LLM proporciona capacidades generales de comprensión del lenguaje y generación, mientras que un agente está diseñado para realizar tareas específicas utilizando instrucciones especializadas, herramientas y otras capacidades. Los agentes también pueden utilizar sus propios LLM configurados.
Los modelos disponibles en el hub de agente dependen de la región de procesamiento seleccionada. Un administrador de hub de agente selecciona la región de procesamiento y un modelo disponible para la orquestación y las respuestas directas.
Para obtener información sobre cómo el hub de agente procesa solicitudes, consulte Cómo procesan solicitudes el hub de agente.
Para obtener información sobre la configuración de la región y el modelo de procesamiento, consulte Descripción de la configuración del modelo de hub de agente.