Gestion d'adresses privées
Les adresses privées fournissent un accès privé sécurisé aux modèles OCI Generative AI au sein d'un réseau cloud virtuel (VCN). Vous pouvez créer des adresses privées pour les modèles à la demande et pour les modèles préentraînés et personnalisés hébergés sur des clusters d'IA dédiés.
A propos
Une adresse privée est une adresse IP privée dans un VCN qui fournit un accès privé à un service OCI. Pour l'IA générative, les adresses privées vous permettent d'accéder à de grands modèles de langage à partir d'un VCN. Le service crée l'adresse privée dans un sous-réseau privé que vous sélectionnez et conserve sa disponibilité. Vous contrôlez l'accès à l'aide du routage, des listes de sécurité et des groupes de sécurité réseau.
En savoir plus sur A propos des adresses privées et les règles de sécurité.
Lorsque vous créez une adresse privée dans OCI Generative AI, vous recevez un nom de domaine qualifié complet pour cette adresse, que vous sélectionniez ou non Autoriser l'utilisation en mode à la demande. Utilisez l'adresse privée pour effectuer les opérations suivantes :
- Attachez-le à une adresse sur un cluster d'IA dédié pour accéder au cluster (et à ses modèles hébergés) via l'adresse privée.
- Accédez aux modèles à la demande si vous activez l'option Autoriser l'utilisation en mode à la demande.
Régions
Les adresses privées sont prises en charge pour tous les modèles répertoriés sur la page Modèles d'IA générative par région dans les régions commerciales (OC1), gouvernementales (OC4) et souveraines (OC19) où les modèles sont disponibles.
Accès
Pour accéder à un modèle via une adresse privée, exécutez un client à partir d'un réseau disposant d'une connectivité privée au sous-réseau d'adresse, puis appelez le modèle à l'aide du nom de domaine qualifié complet d'adresse privée.
Les chemins d'accès courants sont les suivants :
- Même VCN : à partir de n'importe quel sous-réseau du VCN (sous réserve du routage, du groupe de sécurité réseau et des listes de sécurité).
- Réseaux cloud virtuels appairés : via la connectivité de passerelle d'appairage local ou de passerelle de routage dynamique (basée sur DRG) (hub-and-spoke).
- Réseaux privés sur site/autres : via un VPN de sécurité de protocole Internet (IPSec) ou FastConnect vers un DRG.
- Administration : utilisez OCI Bastion pour atteindre un hôte privé dans le VCN, puis appelez l'adresse à partir de là.
Assurez-vous que le nom de domaine qualifié complet de l'adresse privée est résolu en adresse IP privée.
Prérequis
Avant de créer une adresse privée, complétez les prérequis pour les adresses privées et assurez-vous que vous disposez d'un VCN avec un sous-réseau privé.
Limites
Par défaut, une location peut avoir jusqu'à 5 adresses privées. Pour en créer d'autres, demandez une augmentation de limite de service pour private-endpoint-count dans le service d'IA générative.
Gérer
Vous pouvez effectuer les tâches suivantes afin de créer et de gérer des adresses privées et leurs attributs de sécurité :