Générer du texte dans Generative AI

Hébergez un modèle de génération de langage volumineux de génération de texte dans OCI Generative AI sur un cluster d'IA dédié pour générer du texte ou extraire des informations à partir de texte. Nous vous recommandons d'utiliser les modèles de discussion à la place.

Important

  • Non disponible à la demande : tous les modèles préentraînés de base d'OCI Generative AI pris en charge pour le mode de service à la demande qui utilisent les API de génération de texte et de synthèse (y compris le playground de test) sont désormais retirés. Nous vous recommandons plutôt d'utiliser les modèles de chat.
  • Peut être hébergé sur des clusters : si vous hébergez un récapitulatif ou un modèle de génération tel que cohere.command sur un cluster d'IA dédié (mode de service dédié), vous pouvez continuer à utiliser ce modèle jusqu'à son abandon. Ces modèles, lorsqu'ils sont hébergés sur un cluster d'IA dédié, sont uniquement disponibles dans le Midwest des Etats-Unis (Chicago). Reportez-vous à API en phase d'abandon dans Generative AI pour connaître la date à laquelle les API ne sont plus disponibles.
    1. Dans la barre de navigation de la console, sélectionnez la région Midouest des Etats-Unis (Chicago).
    2. Ouvrez le menu de navigation et sélectionnez Analytics et IA. Sous Services AI, sélectionnez IA générative.
    3. Sélectionnez un compartiment dans lequel vous êtes autorisé à travailler. Si vous ne voyez pas le playground de test, demandez à un administrateur de vous donner accès aux ressources Generative AI, puis passez aux étapes suivantes.
    4. Sélectionnez Playground.
    5. Sélectionnez Génération.
    6. Sélectionnez un modèle pour la génération de texte en effectuant l'une des actions suivantes :
      • Sélectionnez Afficher les détails du modèle, sélectionnez un modèle, puis Choisir un modèle.
    7. Saisissez une invite ou sélectionnez un exemple à utiliser comme invite de base ou source d'apprentissage dans la liste Exemple.
    8. (Facultatif) Définissez de nouvelles valeurs pour les paramètres. Pour plus de détails sur les paramètres, reportez-vous aux définitions de paramètre qui sélectionnent le modèle que vous utilisez, répertorié dans Modèles de base préentraînés dans l'IA générative.
      Remarque

      Pour les modèles hébergés cohere.command, si vous sélectionnez Afficher les probabilités, une fois que le modèle a généré une réponse, vous pouvez passer le curseur de la souris sur les mots générés pour voir les sèmes et leur probabilité.
    9. Sélectionnez Générer.
    10. (Facultatif) Pour modifier la sortie, mettez à jour les invites et les paramètres et sélectionnez Générer. Répétez cette étape jusqu'à ce que la sortie vous convienne.
      Remarque

      Pour tenir à jour le contexte des invites précédentes pour les questions de suivi, sélectionnez Copier la sortie et incluez la sortie dans l'invite suivante.
    11. Pour copier la sortie générée, sélectionnez Copier la sortie.

      La sortie est copiée dans le presse-papiers de l'ordinateur.

    12. (Facultatif) Pour copier le code qui a généré la sortie, sélectionnez Afficher le code, sélectionnez un langage de programmation, Copier le code, collez-le dans un fichier et enregistrez-le. Assurez-vous que le fichier garde le format du code collé.
      Conseil

      Si vous utilisez le code dans une application, veillez à l' authentifier.
    13. (Facultatif) Pour démarrer une nouvelle invite, sélectionnez Effacer sous la zone Entrée.
      Remarque

      Lorsque vous cliquez sur Effacer, les valeurs par défaut de paramètres de modèle sont rétablies.
  • Pour générer du texte, utilisez l'opération generate-text-result.

    Entrez la commande suivante pour obtenir la liste des options permettant de générer du texte.

    oci generative-ai-inference generate-text-result -h

    Pour obtenir la liste complète des paramètres et des valeurs des commandes de l'interface de ligne de commande OCI Generative AI, reportez-vous à Interface de ligne de commande d'inférence d'IA générative et à Interface de ligne de commande de gestion d'IA générative.

  • Exécutez l'opération GenerateText pour générer du texte.

    Pour plus d'informations sur l'utilisation de l'API et la signature des demandes, reportez-vous à la documentation relative à l'API REST et à Informations d'identification de sécurité. Pour plus d'informations sur les kits SDK, reportez-vous à Kits SDK et interface de ligne de commande.