Crea un router di chat basato sull'intelligenza artificiale utilizzando la piattaforma agente AI di Oracle Cloud Infrastructure

Introduzione

Questa esercitazione descrive come creare un agente AI di Oracle Cloud Infrastructure (OCI) che instraderà l'input utente in base al contesto agli LLM ospitati nel servizio OCI Generative AI utilizzando OCI ADK (Agent Development Kit) di Oracle Cloud Infrastructure. Imparerai come impacchettare la logica del servizio OCI come strumenti, creare un agente AI che interpreta il linguaggio naturale e ottenere risposte in modo efficace in base al contesto. Ciò ottiene il meglio dagli LLM ospitati all'interno di OCI utilizzando agenti AI.

Come parte di questo tutorial useremo solo due LLM nel backend. Se l'input dell'utente si basa sulla generazione di contenuto o sul riepilogo del testo, tale input verrà inviato a Llama 3.3 70B; se l'input dell'utente riguarda la codifica o la matematica, verrà inviato a Llama 4 Maverick ospitato nei servizi OCI Generative AI.

Nota:

La familiarità con le operazioni OCI di base e lo sviluppo Python è utile ma non necessaria.

Assicurarsi che l'account utente e servizio OCI disponga delle autorizzazioni per accedere AI servizi di AI generativa OCI e agli endpoint degli agenti all'interno di OCI.

Una volta impostato il tuo primo agente AI, puoi estenderlo facilmente con nuovi strumenti per coprire ulteriori servizi OCI definendoli e registrandoli utilizzando l'interfaccia del toolkit OCI ADK.

Obiettivi

Comprendi l'architettura e il flusso di lavoro degli agenti AI OCI e di OCI ADK.
Sviluppa toolkit personalizzati.
Configura, registra ed esegui un agente AI che risponde al meglio in base al contesto.
Utilizza l'agente AI per utilizzare i servizi di chat OCI Generative AI.
Riutilizza questo apprendimento per lo sviluppo di agenti simili con i servizi OCI utilizzando OCI ADK.

Prerequisiti

Installazione uv: installare uv utilizzando il comando seguente, in base al sistema operativo in uso.
- macOS/Linux:
```
curl -LsSf https://astral.sh/uv/install.sh | sh
```
- Windows:
```
powershell -c "irm https://astral.sh/uv/install.ps1 | iex"
```
Creazione di un ambiente virtuale: passare alla directory di progetto e creare un ambiente virtuale utilizzando il comando uv.
```
uv venv
```
Attivare l'ambiente virtuale: attivare l'ambiente virtuale.
- macOS/Linux:
```
source .venv/bin/activate
```
- Windows:
```
.venv\Scripts\activate
```
Install Required Packages: installare i pacchetti necessari utilizzando il comando uv.
```
uv pip install oci "oci[adk]" rich pydantic docstring_parser
```
Verificare di disporre di:
- Credenziali e configurazioni OCI valide. Per ulteriori informazioni, vedere Impostazione del file di configurazione.
- Criteri di Oracle Cloud Infrastructure Identity and Access Management (OCI IAM) che consentono l'accesso AI servizi OCI Generative AI e la registrazione e l'uso degli endpoint degli agenti.
- Endpoint di un agente OCI disponibile o possibilità di crearne uno.

Task 1: creare un agente AI OCI dalla console OCI

La piattaforma AI Agent di Oracle Cloud Infrastructure (OCI AI Agent Platform) ti consente di creare assistenti intelligenti che interpretano le domande degli utenti, pianificano le azioni e chiamano strumenti (competenze) personalizzati o integrati con le API OCI. Ogni strumento è impacchettato come una classe Python con metodi specifici, confermando al sistema di registrazione degli strumenti di OCI ADK.

Eseguire il login a OCI Console, andare a Agenti AI generativi e fare clic su Crea agente.
Nella sezione Informazioni di base, immettere un nome e un messaggio di benvenuto. L'istruzione di instradamento verrà lasciata vuota nell'ambito di questa esercitazione. Fare clic su Avanti.
Nella sezione Aggiungi strumento non creare strumenti. Useremo OCI ADK per crearlo.
Nella sezione Imposta endpoint agente selezionare Guardrails.
Fare clic su Crea agente.

Concetti chiave:

Agente: l'interprete e l'orchestratore basati sull'intelligenza artificiale.
Tool/toolkit: classe con una o più operazioni esposte all'agente (@tool).
Endpoint dell'agente: la risorsa OCI che fornisce runtime e connettività.
Client agente: client Python per la comunicazione agente-endpoint.

Nota: un agente può instradare le richieste degli utenti su più toolkit (ad esempio, Oracle Cloud Guard, compartimenti) e comporre le operazioni in più passaggi in base alle esigenze.

Task 2: Impostazione locale di OCI ADK

Si scriveranno classi Python che definiscono gli strumenti per esporre le operazioni di Oracle Cloud Guard. Ogni funzione è annotata con @tool e può essere chiamata con il linguaggio naturale dall'agente.

Aggiornare l'autenticazione nel file agente

Aggiornare il tipo di autenticazione (auth_type), selezionare la configurazione profile e region in cui è stato creato l'endpoint dell'agente AI.
Aggiornare l'OCID endpoint (agent_endpoint_id) anche in get_config.py.

immagine

Task 3. Eseguire l'agente AI

Scaricare il file seguente e salvarlo nella stessa directory.
Aggiornare l'input nel file oci_ai_route.py in base alle proprie esigenze.
Eseguire il file oci_ai_route.py utilizzando il comando seguente.
```
uv run oci_ai_route.py 
```
In base al contesto, viene richiamato il modello richiesto e viene generato il contenuto.

Nota: è possibile utilizzare agent.run() dall'indirizzo oci_ai_route.py aggiunto all'applicazione o all'applicazione Web per richiamare l'agente.

Conferme

Autore: Mukund Murali (Principal Cloud Architect)

Altre risorse di apprendimento

Esplora altri laboratori su docs.oracle.com/learn o accedi a più contenuti di formazione gratuiti sul canale YouTube di Oracle Learning. Inoltre, visitare education.oracle.com/learning-explorer per diventare Oracle Learning Explorer.

Per la documentazione del prodotto, visitare Oracle Help Center.

Titolo e informazioni sul copyright

Build an AI Powered Chat Router Using Oracle Cloud Infrastructure AI Agent Platform

G38667-01