Documentation sur Oracle Cloud Infrastructure

Déploiement de modèle

Suivez ces étapes pour déployer des modèles avec des actions rapides du service d'intelligence artificielle.

Création du déploiement de modèle

Vous pouvez créer un déploiement de modèle à partir des modèles de base avec le marqueur Prêt pour déploiement dans l'explorateur de modèles ou avec des modèles réglés avec précision. Lorsque vous créez un déploiement de modèle dans des actions rapides du service d'intelligence artificielle, vous créez un déploiement de modèle du service de science des données pour OCI, qui est une ressource gérée dans le service de science des données pour OCI. Vous pouvez déployer le modèle en tant que points d'extrémité HTTP dans OCI.

Vous devez disposer de la politique nécessaire pour utiliser le déploiement de modèle du service de science des données. Vous pouvez sélectionner la forme de calcul pour le déploiement de modèle. Vous pouvez configurer la journalisation pour surveiller le déploiement de votre modèle. La journalisation est facultative, mais il est fortement recommandé de vous aider à résoudre les erreurs liées à votre déploiement de modèle. Vous devez disposer de la politique nécessaire pour activer la journalisation. Pour plus d'informations sur les journaux, voir Journaux de déploiement de modèle. Sous l'option avancée, vous pouvez sélectionner le nombre d'instances à déployer et la bande passante de l'équilibreur de charge.

Voir Déploiement de modèle sur GitHub pour plus d'informations et des conseils sur le déploiement de modèles.

Note

Pour accéder aux déploiements de modèle à l'aide de points d'extrémité privés, créez une session de carnet dont le type de réseau est réglé à Réseau personnalisé. Le trafic sortant personnalisé doit résider dans le même VCN et le même sous-réseau que la ressource de point d'extrémité privé.
    1. Naviguez jusqu'à l'explorateur de modèles.
    2. Sélectionnez la carte de modèle pour le modèle à déployer.
    3. Sélectionnez Déployer pour déployer le modèle.
      La page Déployer le modèle s'affiche.
      1. Attribuez un nom au déploiement.
      2. Sélectionnez une forme de calcul.
      3. Facultatif : Sélectionnez un groupe de journaux.
      4. Facultatif : Sélectionnez un journal de prédiction et d'accès.
      5. Facultatif : Sélectionnez un point d'extrémité privé.
        Note

        Un point d'extrémité privé doit être créé en tant que préalable pour la ressource de déploiement de modèle.

        La fonction de point d'extrémité privé pour le déploiement de modèle n'est activée que dans le domaine OC1. Pour les autres domaines, créez une demande de service pour le service de science des données.

        La liste pour sélectionner et utiliser un point d'extrémité privé dans le déploiement de modèle n'apparaît dans la console que si un point d'extrémité privé existe dans le compartiment.
      6. Sélectionnez Afficher les options avancées.
      7. Mettez à jour le nombre d'instances et la bande passante de l'équilibreur de charge.
      8. Facultatif : Sous Conteneur d'inférence, sélectionnez un conteneur d'inférence.
      9. Facultatif : Sélectionnez Mode d'inférence.
      10. Sélectionnez Déployer.
    4. Sous Actions rapides de l'IA, sélectionnez Déploiements.
      La liste des déploiements de modèle s'affiche. Pour le déploiement créé à l'étape 3, attendez que l'état du cycle de vie devienne Actif avant de cliquer dessus pour l'utiliser.
    5. Faites défiler l'affichage pour afficher la fenêtre d'inférence.
    6. Entrez du texte dans Invite pour tester le modèle.
    7. (Facultatif) Ajoutez les paramètres du modèle, le cas échéant.
    8. Sélectionnez Generate (Générer).
      La sortie est affichée dans Réponse.

  • Pour obtenir la liste complète des paramètres et des valeurs des commandes de l'interface de ligne de commande des actions rapides du service d'intelligence artificielle, voir Interface de ligne de commande des actions rapides du service d'intelligence artificielle.

  • Cette tâche ne peut pas être effectuée à l'aide de l'API.

Appeler un déploiement de modèle dans des actions rapides du service d'intelligence artificielle

Vous pouvez appeler le déploiement de modèle dans les actions rapides du service d'intelligence artificielle à partir de l'interface de ligne de commande ou de la trousse SDK Python.

Pour plus d'informations, voir la section sur les conseils de déploiement de modèle dans GitHub.

Artefacts de modèle

Où trouver les artefacts de modèle.

Lorsqu'un modèle est téléchargé dans une instance de déploiement de modèle, il est téléchargé dans le dossier /opt/ds/model/deployed_model/<object_storage_folder_name_and_path> .