Documentação do Oracle Cloud Infrastructure

Gerenciando Pontos Finais Privados

Os pontos finais privados fornecem acesso privado seguro aos modelos do OCI Generative AI dentro de uma VCN (rede virtual na nuvem). Você pode criar pontos finais privados para modelos sob demanda e para modelos pré-treinados, personalizados e importados hospedados em clusters de IA dedicados.

Sobre

Ponto final privado é um endereço IP privado em uma VCN que fornece acesso privado a um serviço do OCI. Para a IA Generativa, os pontos finais privados permitem acessar grandes modelos de linguagem de dentro de uma VCN. O serviço cria o ponto final privado em uma sub-rede privada que você seleciona e mantém sua disponibilidade. Você controla o acesso usando roteamento, listas de segurança e NSGs (grupos de segurança de rede).

Observação

Um ponto final privado é um recurso de acesso à rede e é diferente de um ponto final de modelo. Para um modelo hospedado em um cluster de IA dedicado, crie um ponto final de modelo no cluster e associe o ponto final privado a ele para fornecer acesso à rede privada. O limite private-endpoint-count é separado do número de pontos finais de modelo suportados por um cluster de hospedagem.

Saiba mais sobre Sobre Pontos Finais Privados e regras de segurança.

Ao criar um ponto final privado no OCI Generative AI, você recebe um nome de domínio totalmente qualificado (FQDN) para ele, independentemente de selecionar Allow Usage In On-Demand Mode. Use o ponto final privado para:

  • Anexe-o a um ponto final em um cluster de IA dedicado para acessar o cluster (e seus modelos hospedados) por meio do ponto final privado.
  • Acesse modelos sob demanda se você ativar Permitir Uso no Modo Sob Demanda.

Regiões

Os pontos finais privados são suportados para todos os modelos listados na página Modelos de IA Generativa por Região nas regiões comercial (OC1), governamental (OC4) e soberana (OC19) nas quais os modelos estão disponíveis.

Acesso

Para acessar um modelo por meio de um ponto final privado, execute um cliente de uma rede que tenha conectividade privada com a sub-rede do ponto final e chame o modelo usando o FQDN do ponto final privado.

Os caminhos de acesso comuns incluem:

  • Mesma VCN: de qualquer sub-rede na VCN (sujeita a roteamento, Grupo de Segurança de Rede (NSG) e listas de segurança).
  • VCNs pareadas: por meio do LPG (Local Peering Gateway) ou da conectividade do DRG (Dynamic Routing Gateway) (hub-and-spoke).
  • Redes privadas on-premises/outras: por meio da VPN de segurança de protocolo de internet (IPSec) ou FastConnect para um DRG.
  • Administração: use o OCI Bastion para acessar um host privado na VCN e, em seguida, chame o ponto final desse ponto.
Observação

Certifique-se de que o FQDN do ponto final privado seja resolvido para o IP privado.