Documentation sur Oracle Cloud Infrastructure

Clavardage dans le service d'IA générative pour OCI

Utilisez les grands modèles de clavardage en langage fournis dans l'IA générative d'OCI pour poser des questions et obtenir des réponses conversationnelles au moyen d'un agent conversationnel d'IA.

    1. Dans la barre de navigation de la console, sélectionnez une région dotée du service d'intelligence artificielle générative, par exemple États-Unis - Midwest (Chicago). Voir Quels modèles sont offerts dans votre région.
    2. Ouvrez le menu de navigation et sélectionnez Analyse et intelligence artificielle. Sous Services IA, sélectionnez Intelligence artificielle générative.
    3. Sélectionnez un compartiment que vous êtes autorisé à utiliser. Si vous ne voyez pas le terrain de jeu, demandez à un administrateur de vous donner accès aux ressources du service d'intelligence artificielle générative, puis retournez aux étapes suivantes.
    4. Sélectionnez Playground (Contexte).
    5. Sélectionnez Clavarder.
    6. Sélectionnez un modèle pour l'expérience de clavardage en effectuant l'une des actions suivantes :
      • Dans la liste Modèle, sélectionnez un modèle préentraîné tel que meta.llama-3.1-70b-instruct, cohere.command-r-08-2024, cohere.command-r-plus-08-2024 ou un modèle personnalisé. Les modèles personnalisés sont affichés sous Nom du modèle (nom du point d'extrémité).
      • Sélectionnez Voir les détails du modèle, sélectionnez un modèle, puis sélectionnez Sélectionner un modèle.
      Note

      • Le modèle meta.llama-3.1-405b-instruct n'est pas disponible pour un accès sur demande dans toutes les régions. Pour accéder à ce modèle, effectuez l'une des opérations suivantes :

      • Le modèle meta.llama-3.2-11b-vision-instruct n'est disponible pour l'accès sur demande dans aucune région. Pour accéder à ce modèle, effectuez l'option suivante :

      Découvrez les coûts et les mises hors service de modèles pour des modes de service sur demande et dédiés.

    7. Démarrez une conversation en entrant une invite ou en sélectionnant un exemple dans la liste Exemple à utiliser comme invite de base ou pour en savoir plus.
      Pour les modèles qui acceptent des images telles que meta.llama-3.2-90b-vision-instruct, vous pouvez ajouter une image .png ou .jpg d'une taille de 5 Mo ou moins.
    8. (Facultatif) Définissez de nouvelles valeurs pour les paramètres. Pour plus de détails sur les paramètres, voir les définitions de paramètre sélectionner le modèle que vous utilisez, répertorié dans Modèles de clavardage.
    9. Sélectionnez Soumettre.
    10. Entrez une nouvelle invite ou pour poursuivre la conversation par clavardage, entrez une invite de suivi et sélectionnez Soumettre.
      Important

      Dans le terrain de jeu, pour les modèles de vision qui acceptent les images :
      • La soumission d'une image sans invite ne fonctionne pas. Lorsque vous soumettez une image, vous devez soumettre une invite à propos de cette image dans la même demande. Vous pouvez ensuite soumettre des invites de suivi et le modèle conserve le contexte de la conversation.
      • Pour ajouter l'image et le texte suivants, vous devez effacer le clavardage, ce qui entraîne la perte du contexte de la conversation précédente en raison de l'effacement du clavardage.
    11. (Facultatif) Pour modifier les réponses, sélectionnez Effacer le clavardage, mettez à jour les invites et les paramètres, puis sélectionnez Soumettre. Répétez cette étape jusqu'à ce que la sortie vous convienne.
    12. (Facultatif) Après les flux de sortie, vérifiez les jetons d'entrée et de sortie affichés pour l'invite.
      • Tokens d'entrée : Nombre de jetons d'entrée utilisés pour générer la réponse, y compris vos jetons d'invite et de modèle de clavardage (système, rôle/formatage, schémas d'outils).
      • Jetons de sortie : Nombre de jetons de sortie générés par le modèle. Inclut les jetons de raisonnement lorsqu'ils sont signalés; certains modèles tels que Gemini et xAI excluent les jetons de raisonnement de ce champ.
    13. (Facultatif) Pour copier le code qui a généré la sortie, sélectionnez Voir le code, sélectionnez un langage de programmation ou un cadre, sélectionnez Copier le code, collez le code dans un fichier et enregistrez le fichier. Assurez-vous que le format du code collé est conservé dans le fichier.
      Conseil

      Si vous utilisez le code dans une application :

    14. (Facultatif) Pour démarrer une nouvelle conversation, sélectionnez Effacer le clavardage.
      Note

      • Lorsque vous sélectionnez Effacer le clavardage, la conversation de clavardage est effacée, mais les paramètres du modèle restent inchangés et vous pouvez continuer à utiliser les derniers paramètres que vous avez appliqués.

        Si vous passez à une autre fonction, telle que Génération, puis revenez au terrain de jeu Clavarder, les paramètres de conversation et de modèle de clavardage réinitialisent leurs valeurs par défaut.

      En savoir plus sur les paramètres de clavardage Cohere.

  • Pour clavarder, utilisez l'opération chat-result dans l'interface de ligne de commande d'inférence d'IA générative.

    Entrez la commande suivante pour obtenir la liste des options à utiliser avec l'opération chat-result.

    oci generative-ai-inference chat-result -h

    Pour obtenir la liste complète des paramètres et des valeurs des commandes de l'interface de ligne de commande du service d'intelligence artificielle générative pour OCI, voir Interface de ligne de commande d'inférence du service d'intelligence artificielle générative et Interface de ligne de commande du service de gestion du service d'intelligence artificielle générative.

  • Exécutez l'opération Clavarder pour clavarder à l'aide des grands modèles de langue.

    Pour plus d'informations sur l'utilisation de l'API et sur la signature des demandes, voir la documentation de l'API REST et Security Credentials. Pour plus d'informations sur les trousses SDK, voir Trousses SDK et interface de ligne de commande.