Documentation sur Oracle Cloud Infrastructure

Clavardage dans l'intelligence artificielle générative OCI

Utilisez les modèles de clavardage en langue volumineux fournis dans l'intelligence artificielle générative d'OCI pour poser des questions et obtenir des réponses conversationnelles au moyen d'un agent conversationnel doté d'intelligence artificielle.

    1. Dans la barre de navigation de la console, sélectionnez une région dotée de l'IA générative, par exemple, Midwest américain (Chicago) ou Royaume-Uni - Sud (Londres). Voir Quels modèles sont offerts dans votre région.
    2. Ouvrez le menu de navigation et sélectionnez Analyse et intelligence artificielle. Sous Services IA, sélectionnez Intelligence artificielle générative.
    3. Sélectionnez un compartiment que vous êtes autorisé à utiliser. Si vous ne voyez pas le terrain de jeu, demandez à un administrateur de vous donner accès aux ressources du service d'intelligence artificielle générative, puis retournez aux étapes suivantes.
    4. Sélectionnez Playground (Contexte).
    5. Sélectionnez Clavarder.
    6. Sélectionnez un modèle pour l'expérience de clavardage en effectuant l'une des actions suivantes :
      • Dans la liste Modèle, sélectionnez un modèle préentraîné tel que meta.llama-3.1-70b-instruct, cohere.command-r-08-2024, cohere.command-r-plus-08-2024 ou un modèle personnalisé. Les modèles personnalisés s'affichent en tant que nom du modèle (nom du point d'extrémité).
      • Sélectionnez Voir les détails du modèle, sélectionnez un modèle, puis sélectionnez Sélectionner un modèle.
      Note

      • Le modèle meta.llama-3.1-405b-instruct n'est pas disponible pour l'accès sur demande dans toutes les régions. Pour accéder à ce modèle, effectuez l'une des opérations suivantes :

      • Le modèle meta.llama-3.2-11b-vision-instruct n'est disponible pour l'accès sur demande dans aucune région. Pour accéder à ce modèle, exécutez l'option suivante :

      Découvrez les coûts et les mises hors service de modèles pour des modes de service sur demande et dédiés.

    7. Démarrez une conversation en entrant une invite ou en sélectionnant un exemple dans la liste Exemple à utiliser comme invite de base ou pour l'apprentissage.
      Pour les modèles qui acceptent des images telles que meta.llama-3.2-90b-vision-instruct, vous pouvez ajouter une image .png ou .jpg d'une taille inférieure ou égale à 5 Mo.
    8. (Facultatif) Définissez de nouvelles valeurs pour les paramètres. Pour plus de détails sur les paramètres, voir les définitions de paramètre sélectionner le modèle que vous utilisez, répertorié dans Modèles de clavardage.
    9. Sélectionnez Soumettre.
    10. Entrez une nouvelle invite ou pour poursuivre la conversation par clavardage, entrez une invite de suivi et sélectionnez Soumettre.
      Important

      Dans l'aire de jeu, pour les modèles de vision qui acceptent des images :
      • La soumission d'une image sans invite ne fonctionne pas. Lorsque vous soumettez une image, vous devez soumettre une invite sur cette image dans la même demande. Vous pouvez ensuite soumettre des invites de suivi et le modèle conserve le contexte de la conversation.
      • Pour ajouter l'image et le texte suivants, vous devez effacer le clavardage, ce qui entraîne la perte du contexte de la conversation précédente en raison de l'effacement du clavardage.
    11. (Facultatif) Pour modifier les réponses, sélectionnez Effacer le clavardage, mettez à jour les invites et les paramètres, puis sélectionnez Soumettre. Répétez cette étape jusqu'à ce que la sortie vous convienne.
    12. (Facultatif) Pour copier le code qui a généré la sortie, sélectionnez Voir le code, sélectionnez un langage de programmation ou un cadre, sélectionnez Copier le code, collez le code dans un fichier et enregistrez le fichier. Assurez-vous que le format du code collé est conservé dans le fichier.
      Conseil

      Si vous utilisez le code dans une application :

    13. (Facultatif) Pour démarrer une nouvelle conversation, sélectionnez Effacer le clavardage.
      Note

      • Lorsque vous sélectionnez Effacer le clavardage, la conversation de clavardage est effacée, mais les paramètres du modèle restent inchangés et vous pouvez continuer à utiliser les derniers paramètres que vous avez appliqués.

        Si vous passez à une autre fonction, telle que Génération, puis revenez au terrain de jeu Clavarder, les paramètres de conversation et de modèle de clavardage réinitialisent leurs valeurs par défaut.

      Découvrez les paramètres de clavardage Cohere.

  • Pour clavarder, utilisez l'opération chat-result dans l'interface de ligne de commande d'inférence par intelligence artificielle générative.

    Entrez la commande suivante pour obtenir la liste des options à utiliser avec l'opération chat-result.

    oci generative-ai-inference chat-result -h

    Pour obtenir la liste complète des paramètres et des valeurs des commandes de l'interface de ligne de commande du service d'intelligence artificielle générative pour OCI, voir Interface de ligne de commande d'inférence du service d'intelligence artificielle générative et Interface de ligne de commande du service de gestion du service d'intelligence artificielle générative.

  • Exécutez l'opération Clavarder pour clavarder à l'aide des modèles de langue volumineux.

    Pour plus d'informations sur l'utilisation de l'API et sur les demandes de signature, voir la documentation de l'API REST et Données d'identification de sécurité. Pour plus d'informations sur les trousses SDK, voir Trousses SDK et interface de ligne de commande.