Régions de traitement des modèles locaux du service d'intelligence artificielle générative

Le tableau suivant répertorie les régions OC1 avec traitement de modèle local dans le service d'intelligence artificielle générative. Les modèles disponibles et les modes de service varient selon la région. Pour utiliser un modèle sur demande qui n'est pas disponible localement, créez un profil d'acheminement pour ce modèle et sélectionnez les régions dans lesquelles il est disponible. Utilisez le profil de votre région courante dans le terrain de jeu ou au moyen d'une API d'inférence prise en charge.

Oracle héberge ses services OCI dans des régions et des domaines de disponibilité. Une région est une zone géographique précise, tandis qu'un domaine de disponibilité comprend un ou plusieurs centres de données dans cette région.

Découvrez À propos des régions et des domaines de disponibilité.

Un sous-ensemble des régions commerciales dont le traitement de modèle local est indiqué ci-dessus prend en charge l'inférence de modèle au moyen de l'API des réponses OCI et de l'API des achèvements de clavardage OCI. Les combinaisons de modèle et de région prises en charge dépendent de l'API. Les outils et les fonctions de mémoire de projet ont également leur propre disponibilité régionale.

Pour les modèles, les régions et les exigences d'accès pris en charge pour l'inférence, les outils et la mémoire de projet, voir Modèles et régions pour les agents d'IA d'entreprise.

Dans les régions sans traitement de modèle local, utilisez un profil d'acheminement pour appeler un modèle pris en charge au moyen de ces API. Pour connaître la disponibilité et les limites des fonctions, voir Régions sans traitement de modèle local.

Pour les régions OC1 sans traitement de modèle local dans le service d'intelligence artificielle générative, voir Régions commerciales (OC1) sans traitement de modèle local. Pour l'inférence sur demande, cette liste comprend UAE Central (Abu Dhabi). Abu Dhabi fournit également un traitement de modèle local pour les grappes d'IA dédiées. Pour toutes les régions commerciales OCI, voir la table des régions OCI et voir les entrées avec la clé de domaine OC1.

Dans une région sans traitement de modèle local, créez un profil d'acheminement pour le modèle sur demande à utiliser et sélectionnez les régions cibles où il est disponible. Sélectionnez le profil dans le terrain de jeu de votre région ou référencez-le dans une demande d'API pour acheminer la demande vers l'une des régions OCI cibles sélectionnées. Pour les modèles hébergés en externe, cette région OCI appelle le fournisseur de modèle. Voir Où sont traitées les demandes? pour obtenir des exemples d'acheminement et de traitement. L'API de clavardage, l'API d'achèvement de clavardage OCI et l'API de réponses OCI sont prises en charge lorsque le modèle sélectionné prend en charge l'API. Les points d'extrémité d'API régionaux prennent en charge IPv6.

Pour les fonctions, limitations et instructions d'acheminement prises en charge, voir Régions sans traitement de modèle local.

En savoir plus sur Oracle US Government Cloud.

En savoir plus sur Oracle US Defense Cloud.

En savoir plus sur Oracle UK Sovereign Cloud.

En savoir plus sur l'infonuagique souveraine Oracle EU Sovereign Cloud.