Selecionar Conversas AI

As conversas no Select AI se referem ao diálogo interativo entre o usuário e o sistema, em que uma sequência de prompts de linguagem natural fornecidos pelo usuário é armazenada e gerenciada para oferecer suporte à memória de longo prazo para interações de LLM.

O Select AI suporta conversas de curto prazo baseadas em sessão, que são ativadas no perfil AI, bem como conversas nomeadas de longo prazo, que são ativadas usando procedimentos ou funções específicos e IDs de conversa.

Tipos de Conversas

O Select AI suporta conversas de curto prazo baseadas em sessão e conversas personalizáveis.

Conversas de Curto Prazo baseadas em sessão: A opção Selecionar IA inclui conversas de curto prazo baseadas em sessão para gerar respostas sensíveis ao contexto para o prompt atual com base em interações anteriores.

Você pode ativá-lo definindo o atributo conversation como true|false em seu perfil do AI. Ao contrário do recurso de várias conversas, as conversas baseadas em sessão armazenam prompts apenas para a duração da sessão. Os prompts são armazenados em uma tabela temporária, eliminados automaticamente quando a sessão termina e não podem ser reutilizados e alternados entre as conversas.

Conversas de Longo Prazo Personalizáveis: O Select AI suporta a criação e o uso de conversas personalizáveis, permitindo que você use o Select AI com diferentes tópicos sem misturar contexto, melhorando a flexibilidade e a eficiência. Você pode criar, definir, excluir e atualizar conversas por meio das funções e procedimentos de conversa DBMS_CLOUD_AI. Quando você ativa conversas, o Select AI recupera o histórico de prompts e os envia ao LLM para gerar uma resposta para o prompt atual. Essas respostas são armazenadas em uma tabela persistente para uso futuro.

Observação

A opção Selecionar Conversas AI suporta as seguintes ações: runsql, showsql, explainsql, narrate e chat.

Como usar conversas personalizáveis

Você pode usar o Select AI para conversas personalizáveis das seguintes maneiras:

  • Defina o ID da conversa na sessão usando o procedimento DBMS_CLOUD_AI.SET_CONVERSATION_ID e execute SELECT AI <ACTION> <PROMPT>.

  • Informe o conversation_id no argumento params da função DBMS_CLOUD_AI.GENERATE.

Observação

Se você usar várias conversas e a definição conversation: [true|false], o sistema ignorará a definição conversation.

No contexto da geração de consultas SQL (NL2SQL), as conversas permitem uma maneira mais intuitiva e acessível de trabalhar com seus dados, facilitando para os usuários extrair insights e executar tarefas sem precisar de conhecimento técnico profundo de SQL. As conversas também podem ser usadas com os recursos de chat e RAG do Select AI.

Por exemplo, as conversas fornecem uma maneira intuitiva de analisar dados:
  • Faça uma pergunta como "Qual é o número total de clientes?"
  • Acompanhamento com perguntas contextuais como:
    • "Quebra de contagem de clientes por país"
    • "Qual faixa etária é mais comum"
    • "Mantenha os 5 melhores clientes e seu país por suas compras e inclua uma classificação no resultado"

Para ativar conversas, consulte Exemplo: Ativar Conversas em Selecionar IA para obter um exemplo completo.

Conversas Baseadas em Sessão versus Conversas Personalizáveis

A tabela a seguir compara a conversa baseada em sessão e as conversas personalizáveis no Select AI:

Perguntas Conversas de Curto Prazo Baseadas em Sessão Conversas personalizáveis de longo prazo

Quando eu uso?

Melhor para bate-papos rápidos e temporários em que você deseja que o modelo se lembre de perguntas e respostas recentes durante uma única sessão. É útil quando você não precisa salvar ou reutilizar a conversa mais tarde.

Projetado para conversas mais longas ou contínuas que podem abranger várias sessões. É útil quando você deseja rastrear, revisar ou gerenciar o histórico de conversas ou quando diferentes partes de um aplicativo precisam acessar o mesmo contexto de conversa ao longo do tempo.

Como eu ativo?

Defina {"conversation": true or false} no seu perfil do AI.

Use o procedimento DBMS_CLOUD_AI.SET_CONVERSATION_ID ou a função DBMS_CLOUD_AI.GENERATE.

Quantas conversas são permitidas?

Um.

Você pode criar várias conversas.

Se você especificar explicitamente os IDs de conversa, poderá alternar entre eles para associar prompts às conversas apropriadas, conforme necessário.

Onde os prompts são armazenados e por quanto tempo?

Os prompts são armazenados em uma tabela temporária e eliminados quando a sessão termina.

Os prompts são armazenados em uma tabela permanente.

Os prompts são retidos no banco de dados pelo número de dias especificado pelo parâmetro retention_days no procedimento DBMS_CLOUD_AI.CREATE_CONVERSATION. Após o período de retenção, a conversa e seus prompts são excluídos automaticamente. Você também pode excluir prompts manualmente usando o procedimento DBMS_CLOUD_AI.DELETE_CONVERSATION_PROMPT.

Quantos prompts são armazenados e quantos prompts são enviados ao LLM?

Um máximo de 10 prompts é armazenado e enviado ao LLM. Não é possível personalizar esse limite.

Todos os prompts são armazenados.

Por padrão, o sistema envia os 10 prompts mais recentes para o LLM. Você pode personalizar isso usando o parâmetro conversation_length. Consulte CREATE_CONVERSATION Atributos.

Posso excluir prompts individuais?

Não, não é possível excluir o prompt individual manualmente.

É possível excluir prompts individuais específicos usando o id do prompt conforme especificado na Exibição USER_CLOUD_AI_CONVERSATION_PROMPTS e usando o procedimento DBMS_CLOUD_AI.DELETE_CONVERSATION_PROMPT.

Os perfis de IA são usados para recuperação de conversas?

Sim, Selecionar IA recupera prompts e respostas geradas anteriormente usando o mesmo perfil de IA.

Não, Selecionar IA rastreia o perfil de IA usado ao armazenar prompts e respostas, mas não restringe sua recuperação com base nesse perfil. Ele envia todos os históricos de conversas para o LLM para orientar a geração de respostas, independentemente do perfil usado para gerá-las.

Onde posso verificar o histórico de prompts?

Os prompts são salvos em uma tabela temporária em CLOUD USER, mas não podem ser consultados.

É possível consultar e revisar conversas e prompts por meio das visualizações de conversa DBMS_CLOUD_AI. Consulte DBMS_CLOUD_AI Views para obter detalhes.