Documentation sur Oracle Cloud Infrastructure

xAI Grok 4.20

Le xAI Grok 4.20 offre des variantes de raisonnement et de non-raisonnement avec une vitesse de pointe et un support d'appel d'outils agéntique. Il est conçu pour réduire les hallucinations et suivre de près les invites, produisant des réponses plus fiables et précises.

En savoir plus sur Grok 4.20

Aperçu

Le modèle xAI Grok 4.20 est disponible en deux modes offerts dans deux modèles distincts. Un modèle Motif et un modèle Non-Motif. Consultez le tableau suivant pour déterminer le modèle à sélectionner.

Mode Nom du modèle Quand utiliser
Raisonnement xai.grok-4.20-0309-reasoning Logique complexe et mathématique, analyse scientifique/technique, enquêtes en plusieurs étapes, ou tâches à enjeux plus élevés où la précision importe plus que la latence la plus faible.
Non-raisonnable xai.grok-4.20-0309-non-reasoning Questions et réponses de routine, récupération d'informations générales et scénarios à haut débit où la vitesse de réponse est la priorité.

Principales fonctionnalités

  • Noms de modèle dans le service d'intelligence artificielle générative pour OCI :
    Raisonnement
    • xai.grok-4.20-0309-reasoning
    • xai.grok-4.20-reasoning (alias qui pointe vers xai.grok-4.20-0309-reasoning)
    Non-raisonnable
    • xai.grok-4.20-0309-non-reasoning
    • xai.grok-4.20-non-reasoning (alias qui pointe vers xai.grok-4.20-0309-non-reasoning)
  • Disponible sur demande : Accédez à ce modèle sur demande au moyen du terrain de jeu de la console ou de l'API.
  • Prise en charge multimodale : Entrez du texte et des images et obtenez une sortie de texte.
  • Longueur de contexte : 2 millions de jetons (invite maximale + longueur de réponse est de 2 millions de jetons pour conserver le contexte). Dans le terrain de jeu, la longueur de réponse est plafonnée à 131 000 jetons pour chaque course, mais le contexte reste de 2 millions.
  • Modes : Fonctionne selon deux modes : "raisonnement" pour les tâches complexes et "non-raisonnement" pour les demandes simples et essentielles à la vitesse.
  • Appel de fonction : Oui, au moyen de l'API.
  • Sorties structurées : Oui.

  • Jetons d'entrée mis en cache : Oui

    Note importante : La fonction d'entrée en mémoire cache est disponible à la fois dans le terrain de jeu et dans l'API. Toutefois, ces informations ne peuvent être extraites qu'au moyen de l'API.

  • Arrêt des connaissances : Non disponible

Limites

Jetons par minute (TPM)
Pour l'augmentation de limite TPM, utilisez les noms de limite suivants :
  • Pour le modèle de raisonnement : grok-4-2-reasoning-tokens-per-minute-count (pour 200 000 jetons)
  • Pour le modèle non-raisonnable : grok-4-2-non-reasoning-tokens-per-minute-count (pour 200 000 jetons)

Voir Création d'une demande d'augmentation de limite.

Entrées d'image
  • Console : Chargez une ou plusieurs images .png ou .jpg, chacune de 5 Mo ou moins.
  • API : Seuls les formats de fichier JPG/JPEG et PNG sont pris en charge. Soumettez une version codée base64 d'une image, en vous assurant que chaque image convertie est supérieure à 256 jetons et inférieure à 1 792 jetons. Par exemple, une image 512 x 512 se convertit généralement en environ 1 610 jetons. Il n'y a pas de nombre maximum d'images pouvant être téléchargées. Le nombre combiné de jetons pour le texte et les images doit être compris dans la fenêtre de contexte global du modèle de 2 millions de jetons.

Mode sur demande

Note

Les modèles Grok sont disponibles uniquement en mode sur demande.
Nom du modèle Nom du modèle OCI
xAI Grok 4.20
  • xai.grok-4.20-0309-reasoning
  • xai.grok-4.20-0309-non-reasoning

Paramètres du modèle

Pour modifier les réponses du modèle, vous pouvez modifier les valeurs des paramètres suivants dans le terrain de jeu ou l'API.

Nombre maximal de jetons de sortie

Nombre maximal de jetons que le modèle doit générer pour chaque réponse. Estimer quatre caractères par jeton. Étant donné que vous demandez un modèle de clavardage, la réponse dépend de l'invite et chaque réponse n'utilise pas nécessairement le nombre maximal de jetons alloués.

Conseil

Pour les entrées volumineuses présentant des problèmes difficiles, définissez une valeur élevée pour le paramètre de nombre maximal de jetons de sortie. Voir Dépannage.
Température

Niveau de caractère aléatoire utilisé pour générer le texte de sortie. Min : 0, Max : 2

P supérieur

Méthode d'échantillonnage qui contrôle la probabilité cumulative des jetons supérieurs à prendre en compte pour le jeton suivant. Affectez à p un nombre décimal compris entre 0,05 et 1 pour la probabilité. Par exemple, entrez 0,75 pour les 75 % supérieurs à prendre en compte. Réglez p à 1 pour prendre en compte tous les jetons.

Dépannage

Problème : Le modèle Grok 4.20 ne répond pas.

Cause : Le paramètre Maximum output tokens (Jeux de sortie maximum) dans le terrain de jeu ou le paramètre max_tokens dans l'API est probablement trop bas. Par exemple, par défaut, ce paramètre est réglé à 600 jetons dans le terrain de jeu, ce qui peut être faible pour les tâches complexes.

Action : Augmentez le paramètre de jetons de sortie maximum.