Crea un enrutador de chat basado en IA con la plataforma de agente de IA de Oracle Cloud Infrastructure

Introducción

En este tutorial se muestra cómo crear un agente de IA de Oracle Cloud Infrastructure (OCI) que enrutará la entrada del usuario en función de su contexto a los LLM alojados en el servicio OCI Generative AI mediante Oracle Cloud Infrastructure Agent Development Kit (OCI ADK). Aprenderá a empaquetar la lógica de servicio de OCI como herramientas, crear un agente de IA que interprete el lenguaje natural y obtenga respuestas basadas en el contexto. Esto saca lo mejor de los LLM alojados dentro de OCI mediante agentes de IA.

Como parte de este tutorial, utilizaremos solo dos LLM en el backend. Si la entrada del usuario se basa en la generación de contenido o el resumen de texto, esa entrada se enviará a Llama 3.3 70B; si la entrada del usuario tiene que ver con la codificación o las matemáticas, se enviará a Llama 4 Maverick alojada en los servicios de IA generativa de OCI.

Nota:

La familiaridad con las operaciones básicas de OCI y el desarrollo de Python es útil, pero no necesaria.

Asegúrate de que tu cuenta de usuario y servicio de OCI tenga permisos para acceder a los servicios de OCI Generative AI y los puntos finales de agente dentro de OCI.

Una vez que hayas configurado tu primer agente de IA, puedes ampliarlo fácilmente con nuevas herramientas para cubrir servicios adicionales de OCI definiéndolos y registrándolos mediante la interfaz del kit de herramientas de OCI ADK.

Objetivos

Comprende la arquitectura y el flujo de trabajo de los agentes de OCI AI y OCI ADK.
Desarrolle kits de herramientas personalizados.
Configure, registre y ejecute un agente de AI que responda mejor según el contexto.
Utiliza el agente de IA para utilizar los servicios de chat de OCI Generative AI.
Reutilice este aprendizaje para desarrollar agentes similares con servicios de OCI mediante OCI ADK.

Requisitos

Instale uv: instale uv con el siguiente comando según su sistema operativo.

macOS/Linux:

curl -LsSf https://astral.sh/uv/install.sh | sh

Windows:

powershell -c "irm https://astral.sh/uv/install.ps1 | iex"

Crear un entorno virtual: navegue al directorio del proyecto y cree un entorno virtual mediante el comando uv.
```
uv venv
```
Activar el entorno virtual: active el entorno virtual.
- macOS/Linux:
```
source .venv/bin/activate
```
- Windows:
```
.venv\Scripts\activate
```
Instalar paquetes necesarios: instale los paquetes necesarios mediante el comando uv.
```
uv pip install oci "oci[adk]" rich pydantic docstring_parser
```
Asegúrese de tener:
- Credenciales y configuraciones de OCI válidas. Para obtener más información, consulte Configuración del archivo de configuración.
- Las políticas de Oracle Cloud Infrastructure Identity and Access Management (OCI IAM) permiten el acceso a los servicios de OCI Generative AI y registrar y utilizar puntos finales de agente.
- Punto final de agente de OCI disponible o la capacidad de crear uno.

Tarea 1: Creación de un agente de OCI AI desde la consola de OCI

La plataforma de agente de IA de Oracle Cloud Infrastructure (OCI AI Agent Platform) te permite crear asistentes inteligentes que interpreten preguntas de los usuarios, planifiquen acciones y llamen a herramientas (habilidades) personalizadas o integradas en las API de OCI. Cada herramienta se empaqueta como una clase de Python con métodos específicos, lo que confirma el sistema de registro de herramientas del ADK de OCI.

Conéctese a la consola de OCI, vaya a Agentes de IA generativa y haga clic en Crear agente.
En la sección Información básica, introduzca un nombre y el mensaje de bienvenida. La instrucción de enrutamiento se mantendrá en blanco como parte de este tutorial. Haga clic en Siguiente.
En la sección Agregar herramienta, no cree ninguna herramienta. Utilizaremos OCI ADK para crearlo.
En la sección Punto final de agente de configuración, seleccione Guardrails.
Haga clic en Crear agente.

Conceptos clave.

Agente: el intérprete y el orquestador alimentados por IA.
Tool/toolkit: clase con una o más operaciones expuestas al agente (@tool).
Punto final de agente: recurso de OCI que proporciona tiempo de ejecución y conectividad.
Cliente de agente: cliente de Python para la comunicación de punto final de agente.

Nota: Un agente puede direccionar las solicitudes de usuario a través de varios kits de herramientas (por ejemplo, Oracle Cloud Guard, compartimentos) y componer operaciones de varios pasos según sea necesario.

Tarea 2: Configuración local del ADK de OCI

Escribirá clases de Python que definen herramientas para exponer las operaciones de Oracle Cloud Guard. Cada función se anota con @tool y el agente puede llamarla con lenguaje natural.

Actualización de la autenticación en el archivo de agente

Actualice el tipo de autenticación (auth_type), seleccione la configuración profile y la region en la que se ha creado el punto final del agente AI.
Actualice el OCID de punto final (agent_endpoint_id) también en get_config.py.

Tarea 3. Ejecución del agente AI

Descargue el siguiente archivo y guárdelo en el mismo directorio.
Actualice la entrada en el archivo oci_ai_route.py según sus necesidades.
Ejecute el archivo oci_ai_route.py con el siguiente comando.
```
uv run oci_ai_route.py 
```
Según el contexto, se llama al modelo necesario y se genera el contenido.

Nota: Puede utilizar agent.run() desde oci_ai_route.py agregado a la aplicación web o la aplicación para llamar a este agente.

Acuses de recibo

Autor: Mukund Murali (arquitecto principal de la nube)

Más recursos de aprendizaje

Explore otros laboratorios en docs.oracle.com/learn o acceda a más contenido de aprendizaje gratuito en el canal YouTube de Oracle Learning. Además, visite education.oracle.com/learning-explorer para convertirse en un explorador de Oracle Learning.

Para obtener documentación sobre el producto, visite Oracle Help Center.

Título e Información de Copyright

Build an AI Powered Chat Router Using Oracle Cloud Infrastructure AI Agent Platform

G38666-01