Projetos
Os projetos do OCI Generative AI organizam conversas e respostas em um conjunto compartilhado de configurações. Em um projeto, você define quanto tempo os dados são mantidos, permite que a memória de longo prazo persista no contexto entre as conversas e permite a compactação de memória de curto prazo para otimizar a forma como o histórico de conversas é processado.
Os projetos são isolados uns dos outros para dar suporte ao gerenciamento do ciclo de vida e aos limites de conformidade. Faça referência ao OCID do projeto em chamadas de API e SDK para aplicar definições do projeto no runtime.
Sobre Projetos
Um projeto é um recurso do OCI que organiza artefatos específicos do agente criados por meio do serviço Generative AI, incluindo respostas, conversas, arquivos e contêineres. Os projetos são isolados uns dos outros, portanto, os artefatos em um projeto não são acessíveis de outro projeto. Um projeto é necessário para chamar a API compatível com OpenAI do OCI para tarefas relacionadas ao agente.
Uma configuração de projeto pode incluir:
- Retenção de dados para respostas e conversas
- Configurações de memória de longo prazo
- Definições de compactação do histórico de conversas (compação de memória de curto prazo)
- A exclusão de um projeto exclui todos os artefatos associados (respostas, conversas, arquivos e contêineres) criados nesse projeto.
- As chamadas de API usam o OCID do Projeto.
Memória do Agente
A Memória do Agente permite que os agentes retenham e usem o contexto entre as interações. Ele suporta memória de curto prazo em uma conversa e memória de longo prazo em conversas, ajudando a melhorar a continuidade, a relevância e a eficiência.
Memória de Curto Prazo
A memória de curto prazo refere-se ao contexto de conversa realizado dentro de uma conversa em andamento. A API de Respostas e a API de Conversas simplificam o gerenciamento do estado da conversa, permitindo interações de vários turnos.
Memória de Longo Prazo
A memória de longo prazo fornece contexto persistente entre as conversas. Quando ativado, o serviço extrai informações importantes de conversas e as armazena para que possam ser recuperadas em interações futuras dentro do mesmo projeto.
A memória de longo prazo é útil para cenários que exigem continuidade entre as sessões, como:
- Lembrando preferências estáveis do usuário
- Mantendo contexto em segundo plano recorrente
- Mantendo a continuidade entre as interações
Compactação de Memória de Curto Prazo
À medida que o histórico de conversas cresce, o envio do histórico completo pode aumentar o uso e a latência do token. A compactação de memória de curto prazo resume e compacta o histórico de conversas anteriores em uma representação menor e estruturada. Isso ajuda a preservar os principais detalhes enquanto reduz a quantidade de contexto enviada ao modelo.
Esta abordagem:
- Preserva informações-chave de revezamentos anteriores
- Reduz o uso de tokens para conversas longas
- Melhora a latência mantendo o contexto leve
Retenção de Dados
A retenção de dados define por quanto tempo os artefatos do projeto são mantidos antes de serem removidos automaticamente. Nos projetos da OCI Generative AI, você define a retenção separadamente para respostas e conversas.
- Retenção de resposta: Controla por quanto tempo as respostas geradas são retidas.
- Retenção de conversas: Controla por quanto tempo as conversas são retidas após a atualização mais recente.
As configurações de retenção ajudam a controlar a duração do armazenamento e a se alinhar aos requisitos de tratamento de dados da sua organização.
Limites
Consulte Limites do Aplicativo.
QuickStart Permissões
Gerenciar
Você pode executar as seguintes tarefas para criar, listar e usar projetos: