Documentazione dell'infrastruttura Oracle Cloud

Seleziona conversazioni AI

Le conversazioni in Select AI si riferiscono al dialogo interattivo tra l'utente e il sistema, in cui una sequenza di prompt del linguaggio naturale forniti dall'utente viene memorizzata e gestita per supportare la memoria a lungo termine per le interazioni LLM.

Select AI supporta conversazioni a breve termine basate su sessioni, abilitate nel profilo AI, nonché conversazioni denominate a lungo termine, abilitate mediante procedure o funzioni specifiche e ID di conversazione.

Tipi di conversioni

Select AI supporta conversazioni a breve termine basate su sessioni e conversazioni personalizzabili.

Conversazioni a breve termine basate sulla sessione: la selezione di AI include conversazioni a breve termine basate sulla sessione per generare risposte contestuali per il prompt corrente in base alle interazioni precedenti.

È possibile abilitarlo impostando l'attributo conversation su true|false nel profilo AI. A differenza della funzione di conversazione multipla, le conversazioni basate sulla sessione memorizzano i prompt solo per la durata della sessione. I prompt vengono memorizzati in una tabella temporanea, eliminati automaticamente al termine della sessione e non possono essere riutilizzati e scambiati tra le conversazioni.

Conversazioni a lungo termine personalizzabili: Select AI supporta la creazione e l'utilizzo di conversazioni personalizzabili che consentono di utilizzare Select AI con argomenti diversi senza mescolare contesto, migliorando sia la flessibilità che l'efficienza. È possibile creare, impostare, eliminare e aggiornare le conversazioni mediante le procedure e le funzioni di conversazione DBMS_CLOUD_AI. Quando si abilitano le conversazioni, Select AI recupera la cronologia dei prompt e le invia all'LLM per generare una risposta per il prompt corrente. Queste risposte vengono memorizzate in una tabella persistente per uso futuro.

Nota

La selezione delle conversazioni AI supporta le azioni seguenti: runsql, showsql, explainsql, narrate e chat.

Come utilizzare conversazioni personalizzabili

È possibile utilizzare Select AI per le conversazioni personalizzabili nei modi riportati di seguito.

  • Impostare l'ID conversazione nella sessione utilizzando la procedura DBMS_CLOUD_AI.SET_CONVERSATION_ID ed eseguire SELECT AI <ACTION> <PROMPT>.

  • Passare conversation_id nell'argomento params della funzione DBMS_CLOUD_AI.GENERATE.

Nota

Se si utilizzano più conversazioni e l'impostazione conversation: [true|false], l'impostazione conversation viene ignorata.

Nel contesto della generazione delle query SQL (NL2SQL), le conversazioni consentono un modo più intuitivo e accessibile di lavorare con i dati, rendendo più facile per gli utenti estrarre insight ed eseguire attività senza aver bisogno di una profonda conoscenza tecnica di SQL. Le conversazioni possono essere utilizzate anche con le funzionalità di chat e RAG di Select AI.

Ad esempio, le conversazioni forniscono un modo intuitivo per analizzare i dati:
  • Fai una domanda come "Qual è il numero totale di clienti?"
  • Eseguire il follow-up con domande contestuali quali:
    • "Conteggio break out dei clienti per paese"
    • "Quale fascia d'età è più comune"
    • "Mantieni i primi 5 clienti e il loro paese in base ai loro acquisti e includi una classifica nel risultato"

Per abilitare le conversazioni, vedere Esempio: abilitazione delle conversazioni in Select AI per un esempio completo.

Conversazioni basate sulla sessione e conversazioni personalizzabili

Nella tabella seguente vengono confrontate la conversazione basata sulla sessione e le conversazioni personalizzabili in Select AI:

Domande Conversazioni a breve termine basate sulla sessione Conversazioni a lungo termine personalizzabili

Quando si utilizzano?

Ideale per chat rapide e temporanee in cui si desidera che il modello ricordi le domande e le risposte recenti durante una singola sessione. È utile quando non è necessario salvare o riutilizzare la conversazione in un secondo momento.

Progettato per conversazioni più lunghe o in corso che possono estendersi su più sessioni. È utile quando si desidera tenere traccia, rivedere o gestire la cronologia delle conversazioni o quando parti diverse di un'applicazione devono accedere allo stesso contesto di conversazione nel tempo.

Come faccio ad abilitare?

Impostare {"conversation": true or false} nel profilo AI.

Utilizzare la procedura DBMS_CLOUD_AI.SET_CONVERSATION_ID o la funzione DBMS_CLOUD_AI.GENERATE.

Quante conversazioni sono consentite?

Uno.

È possibile creare più conversazioni.

Se si specificano in modo esplicito gli ID conversazione, è possibile alternarli per associare i prompt alle conversazioni appropriate in base alle esigenze.

Dove sono memorizzati i prompt e per quanto tempo?

I prompt vengono memorizzati in una tabella temporanea ed eliminati al termine della sessione.

I prompt vengono memorizzati in una tabella permanente.

I prompt vengono conservati nel database per il numero di giorni specificato dal parametro retention_days nella procedura DBMS_CLOUD_AI.CREATE_CONVERSATION. Dopo il periodo di conservazione, la conversazione e i relativi prompt vengono eliminati automaticamente. È inoltre possibile eliminare manualmente i prompt utilizzando la procedura DBMS_CLOUD_AI.DELETE_CONVERSATION_PROMPT.

Quanti prompt vengono memorizzati e quanti prompt vengono inviati all'LLM?

Vengono memorizzati e inviati al LLM un massimo di 10 prompt. Impossibile personalizzare questo limite.

Tutte le richieste vengono memorizzate.

Per impostazione predefinita, il sistema invia i 10 prompt più recenti al LLM. È possibile personalizzare l'operazione utilizzando il parametro conversation_length. Vedere CREATE_CONVERSATION Attributi.

È possibile eliminare singoli prompt?

No, non è possibile eliminare manualmente il singolo prompt.

È possibile eliminare singoli prompt specifici utilizzando l'ID del prompt specificato nella vista USER_CLOUD_AI_CONVERSATION_PROMPTS e la procedura DBMS_CLOUD_AI.DELETE_CONVERSATION_PROMPT.

I profili AI vengono utilizzati per il recupero delle conversazioni?

Sì, Select AI recupera prompt e risposte generati in precedenza utilizzando lo stesso profilo AI.

No, Select AI tiene traccia del profilo AI utilizzato durante la memorizzazione di prompt e risposte, ma non ne limita il recupero in base a tale profilo. Invia tutte le cronologie delle conversazioni all'LLM per guidare la generazione delle risposte, indipendentemente dal profilo utilizzato per generarle.

Dove posso controllare la cronologia dei prompt?

I prompt vengono salvati in una tabella temporanea in CLOUD USER, ma non sono accessibili per l'esecuzione di query.

È possibile eseguire query e rivedere conversazioni e prompt tramite le viste di conversazione DBMS_CLOUD_AI. Per informazioni dettagliate, vedere DBMS_CLOUD_AI Views.

Argomento padre: Selezionare le funzioni AI