Criando uma Implantação
Crie uma implantação no serviço OCI Generative AI para implantar um contêiner de agente que possa atender às solicitações do cliente de um aplicativo.
Ao criar uma implantação, você seleciona uma imagem de contêiner e uma tag de imagem. Você também pode ativar a implantação durante a criação para torná-la a versão em execução do aplicativo.
Esta tarefa descreve como criar uma implantação usando a Console do Oracle Cloud.
Uso e Dimensionamento de Recursos
O uso da implantação depende dos recursos que executam a implantação ativa. Cada réplica em execução usa recursos do serviço Compute, e qualquer serviço gerenciado do OCI ativado para o aplicativo pode criar outro uso.
As configurações do aplicativo controlam como as implantações são dimensionadas. Essas definições incluem o número mínimo de réplicas, o número máximo de réplicas e métricas de dimensionamento automático. Consulte Dimensionamento.
Uma implantação é executada como uma ou mais réplicas. Cada réplica em execução usa a alocação de Computação definida pelo serviço para o aplicativo. Quando o dimensionamento automático adiciona réplicas, o uso do serviço Compute aumenta com base no número de réplicas em execução.
Por exemplo, se uma implantação ativa for dimensionada de uma réplica para três réplicas, ela usará três réplicas do serviço Compute durante o tempo em que essas réplicas estiverem em execução.
Para estimar o uso do serviço Compute, use a seguinte fórmula:
average running replicas x runtime hours x Compute allocation per replica
O número médio de réplicas em execução depende das réplicas mínimas do aplicativo, réplicas máximas, volume de tráfego e definições de dimensionamento automático.
Para limitar a expansão, defina uma contagem máxima de réplicas menor. Para desativar o dimensionamento automático, defina as réplicas mínimas e máximas como o mesmo valor.
Armazenamento gerenciado, cache, banco de dados, registro em log, rede e outros serviços do OCI ativados podem gerar uso separado. Estime o uso desses recursos separadamente do Compute de implantação.
Uma estimativa mensal não é um compromisso. O uso real depende de quantas réplicas são executadas e por quanto tempo elas são executadas.
Etapas
Depois de criar uma implantação, você poderá exibir seus detalhes e executar outras tarefas, como ativá-la, copiar seu OCID ou excluí-la. Use o menu na Console para acessar essas tarefas. Para obter mais informações, consulte Listando implantações.