Documentação do Oracle Cloud Infrastructure

Projetos

Os projetos do OCI Generative AI organizam conversas, respostas, arquivos e sandboxes em configurações compartilhadas. Configure a retenção de dados, a memória e a rede usada pelos sandboxes no projeto.

Os projetos são isolados uns dos outros para dar suporte ao gerenciamento do ciclo de vida e aos limites de conformidade. Faça referência ao OCID do projeto em chamadas de API e SDK para aplicar definições do projeto no runtime.

Sobre Projetos

Um projeto é um recurso do OCI que organiza artefatos específicos do agente criados por meio do serviço Generative AI, incluindo respostas, conversas, arquivos, contêineres e sandboxes. Os projetos são isolados uns dos outros, portanto, os artefatos em um projeto não são acessíveis de outro projeto. Um projeto é necessário para chamar a API compatível com OpenAI do OCI para tarefas relacionadas ao agente.

Uma configuração de projeto pode incluir:

  • Retenção de dados para respostas e conversas
  • Configurações de memória de longo prazo
  • Definições de compactação do histórico de conversas (compação de memória de curto prazo)
  • Configurações de ativação de sandbox e rede de saída
  • Pools quentes que preparam a capacidade para novas solicitações de sandbox
  • A exclusão de um projeto exclui todos os artefatos associados (respostas, conversas, arquivos e contêineres) criados nesse projeto.
  • As chamadas de API usam o OCID do Projeto.

Sandboxes e piscinas quentes

Ative sandboxes em um projeto para executar comandos de código e shell em espaços de trabalho isolados e temporários. Você pode criar vários sandboxes no projeto e endereçar cada sandbox pelo seu ID. Consulte Sandboxes na OCI Generative AI.

Sandboxes em um projeto compartilham a configuração de rede de saída do projeto e as permissões do OCI concedidas aos sandboxes desse projeto. Use projetos separados ou políticas com escopo apropriado para cargas de trabalho que precisam de acesso diferente.

Os pools de aquecimento preparam a capacidade ociosa para novas solicitações de sandbox. Você pode configurar pools ao criar um projeto e exibi-los na guia Pools de aquecimento do projeto. Consulte Warm Pools for Sandboxes.

As definições de retenção de resposta e conversa se aplicam a esses artefatos. A expiração de sandbox e a retenção de snapshot são configuradas separadamente. Consulte Runtimes e Limites de Recursos do Sandbox.

Memória do Agente

A Memória do Agente permite que os agentes retenham e usem o contexto entre as interações. Ele suporta memória de curto prazo em uma conversa e memória de longo prazo em conversas, ajudando a melhorar a continuidade, a relevância e a eficiência.

Memória de Curto Prazo

A memória de curto prazo refere-se ao contexto de conversa realizado dentro de uma conversa em andamento. A API de Respostas e a API de Conversas simplificam o gerenciamento do estado da conversa, permitindo interações de vários turnos.

Memória de Longo Prazo

A memória de longo prazo fornece contexto persistente entre as conversas. Quando ativado, o serviço extrai informações importantes de conversas e as armazena para que possam ser recuperadas em interações futuras dentro do mesmo projeto.

A memória de longo prazo é útil para cenários que exigem continuidade entre as sessões, como:

  • Lembrando preferências estáveis do usuário
  • Mantendo contexto em segundo plano recorrente
  • Mantendo a continuidade entre as interações

Compactação de Memória de Curto Prazo

À medida que o histórico de conversas cresce, o envio do histórico completo pode aumentar o uso e a latência do token. A compactação de memória de curto prazo resume e compacta o histórico de conversas anteriores em uma representação menor e estruturada. Isso ajuda a preservar os principais detalhes enquanto reduz a quantidade de contexto enviada ao modelo.

Esta abordagem:

  • Preserva informações-chave de revezamentos anteriores
  • Reduz o uso de tokens para conversas longas
  • Melhora a latência mantendo o contexto leve

Retenção de Dados

A retenção de dados define por quanto tempo os artefatos do projeto são mantidos antes de serem removidos automaticamente. Nos projetos da OCI Generative AI, você define a retenção separadamente para respostas e conversas.

  • Retenção de resposta: Controla por quanto tempo as respostas geradas são retidas.
  • Retenção de conversas: Controla por quanto tempo as conversas são retidas após a atualização mais recente.

As configurações de retenção ajudam a controlar a duração do armazenamento e a se alinhar aos requisitos de tratamento de dados da sua organização.

QuickStart Permissões

  1. Adicione a política mínima do IAM necessária para obter um OCID do projeto. 
    allow group <your-group-name> to use generative-ai-project 
in compartment <your-compartment>
  2. (Opcional) Em vez da permissão anterior, se você precisar criar e excluir projetos, adicione a seguinte política: 
    allow group <your-group-name> to manage generative-ai-project 
in compartment <your-compartment>

    Para obter orientação, consulte Políticas do IAM para o OCI Generative AI.