Documentation Oracle Cloud Infrastructure

Déploiement de modèle

Suivez ces étapes pour déployer des modèles avec des actions rapides d'IA.

Création de déploiement de modèle

Vous pouvez créer un déploiement de modèle à partir des modèles de base avec la balise Prêt pour déploiement dans l'explorateur de modèles ou avec des modèles ajustés. Lorsque vous créez un déploiement de modèle dans des actions rapides d'IA, vous créez un déploiement de modèle OCI Data Science, qui est une ressource gérée dans le service OCI Data Science. Vous pouvez déployer le modèle en tant qu'adresses HTTP dans OCI.

Vous devez disposer de la stratégie nécessaire pour utiliser le déploiement de modèle Data Science. Vous pouvez sélectionner la forme de calcul pour le déploiement de modèle. Vous pouvez configurer la journalisation pour surveiller le déploiement de modèle. La journalisation est facultative, mais elle est fortement recommandée pour vous aider à résoudre les erreurs liées au déploiement de modèle. Vous devez disposer de la stratégie nécessaire pour activer la journalisation. Pour plus d'informations sur les journaux, reportez-vous à Journaux de déploiement de modèle. Sous l'option avancée, vous pouvez sélectionner le nombre d'instances à déployer et la bande passante de l'équilibreur de charge.

Reportez-vous à Déploiement de modèle sur GitHub pour plus d'informations et des conseils sur le déploiement de modèles.

    1. Accédez à l'explorateur de modèles.
    2. Sélectionnez la carte de modèle pour le modèle à déployer.
    3. Sélectionnez Déploiement pour déployer le modèle.
      La page Déployer le modèle apparaît.
      1. Attribuez un nom au déploiement.
      2. Sélectionnez une forme de calcul.
      3. Facultatif : Sélectionnez un groupe de journaux.
      4. Facultatif : Sélectionnez un journal de prédiction et d'accès.
      5. Facultatif : sélectionnez une adresse privée.
        Remarque

        Une adresse privée doit être créée en tant que prérequis pour la ressource de déploiement de modèle.

        La fonctionnalité d'adresse privée pour le déploiement de modèle est activée uniquement dans le domaine OC1. Pour les autres domaines, créez une demande de service pour Data Science.

      6. Sélectionnez l'option Afficher les options avancées.
      7. Mettez à jour le nombre d'instances et la bande passante de l'équilibreur de charge.
      8. Facultatif : sous Conteneur d'inférences, sélectionnez un conteneur d'inférence.
      9. Facultatif : sélectionnez Mode d'inférence.
      10. Sélectionnez Déployer.
    4. Sous Actions rapides IA, sélectionnez Déploiements.
      La liste des déploiements de modèle est affichée. Pour le déploiement créé à l'étape 3, attendez que l'état de cycle de vie devienne Actif avant de cliquer dessus pour l'utiliser.
    5. Faites défiler pour afficher la fenêtre d'inférence.
    6. Entrez du texte dans l'invite pour tester le modèle.
    7. (Facultatif) Ajustez les paramètres de modèle selon vos besoins.
    8. Sélectionnez Générer.
      La sortie est affichée dans Réponse.

  • Pour obtenir la liste complète des paramètres et des valeurs des commandes de l'interface de ligne de commande des actions rapides AI, reportez-vous à Interface de ligne de commande des actions rapides AI.

  • Cette tâche ne peut pas être effectuée à l'aide de l'API.

Appeler le déploiement de modèle dans les actions rapides AI

Vous pouvez appeler le déploiement de modèle dans AI Quick Actions à partir de l'interface de ligne de commande ou du kit SDK Python.

Pour plus d'informations, reportez-vous à la section sur les conseils de déploiement de modèle dans GitHub.

Artefacts de modèle

Où trouver des artefacts de modèle.

Lorsqu'un modèle est téléchargé dans une instance de déploiement de modèle, il est téléchargé dans le dossier /opt/ds/model/deployed_model/<object_storage_folder_name_and_path>.