Documentação do Oracle Cloud Infrastructure

Gerenciando Pontos Finais Privados

Os pontos finais privados permitem acesso seguro e privado aos modelos do OCI Generative AI dentro da sua rede virtual na nuvem (VCN). Você pode criar pontos finais privados para modelos pré-treinados e personalizados hospedados em clusters de IA dedicados ou para modelos sob demanda.

Sobre

Ponto final privado é um endereço IP privado dentro de uma VCN que você pode usar para acessar um serviço específico no OCI. O serviço configura o ponto final privado em uma sub-rede de sua escolha dentro da VCN. Pense no ponto final privado como outra VNIC na VCN. Você controla o acesso a ele de forma semelhante a qualquer outra VNIC, usando regras de segurança. O serviço cria esta VNIC e mantém sua disponibilidade para você. Você só precisa gerenciar a sub-rede e suas regras de segurança. Aprenda sobre Sobre Pontos Finais Privados.

Ao criar um ponto final privado, você recebe um nome de domínio totalmente qualificado (FQDN) para ele, independentemente de selecionar a opção Permitir Uso no Modo Sob Demanda. Você pode usar o ponto final privado das seguintes maneiras:

  • Anexe-o a um ponto final em um cluster de IA dedicado para tornar o cluster (e seus modelos hospedados) acessível por meio do ponto final privado.
  • Se você selecionar Permitir Uso no Modo Sob Demanda durante a criação ou a edição, também poderá usar o ponto final privado para acessar modelos sob demanda oferecidos no serviço Generative AI.

Acesso

Para acessar um modelo por meio de um ponto final privado, você pode criar uma instância do serviço Compute na sub-rede privada alocada para o ponto final privado, adicionar seu código à instância do serviço Compute, usar o FQDN do ponto final privado e acessar os modelos dessa instância do serviço Compute.

Limites

Por padrão, uma tenancy tem um limite máximo de 5 pontos finais privados. Para mais pontos finais privados do serviço Generative AI, solicite um aumento no limite, private-endpoint-count, para o serviço Generative AI.