Documentation sur Oracle Cloud Infrastructure

xAI Grok 4 (New)

Le modèle xai.grok-4 offre une meilleure performance que son prédécesseur, Grok 3, et excelle dans les cas d'utilisation d'entreprise tels que l'extraction de données, le codage et le texte récapitulatif. Ce modèle possède une connaissance approfondie du domaine de la finance, des soins de santé, du droit et des sciences.

Disponible dans ces régions

  • États-Unis - Est (Ashburn) (sur demande seulement)
  • Midwest des États-Unis (Chicago) (sur demande seulement)
  • États-Unis - Ouest (Phoenix) (sur demande seulement)
Important

Appels externes

Les modèles Grok xAI accessibles au moyen du service d'intelligence artificielle générative pour OCI sont hébergés à l'externe par xAI. Par conséquent, un appel à un modèle Grok xAI (au moyen du service d'intelligence artificielle générative pour OCI) entraîne un appel à un emplacement xAI.

Principales fonctions

  • Nom du modèle dans le service d'intelligence artificielle générative pour OCI : xai.grok-4
  • Disponible sur demande : Accédez à ce modèle sur demande au moyen du terrain de jeu de la console ou de l'API.
  • Prise en charge multimodale : Entrez du texte et des images et obtenez une sortie de texte.
  • Connaissance : A une connaissance approfondie du domaine en finance, soins de santé, droit et science.
  • Longueur de contexte : 128 000 jetons (invite maximale + longueur de réponse est de 128 000 jetons pour chaque exécution). Dans le terrain de jeu, la longueur de réponse est plafonnée à 16 000 jetons pour chaque course.
  • Excelle dans ces cas d'utilisation : Extraction de données, codage et récapitulation de texte
  • Appel de fonction : Oui, au moyen de l'API.
  • Sorties structurées : Oui.
  • A un motif : Oui. Pour les problèmes de raisonnement augmenter les jetons de sortie maximum. Voir Paramètres de modèle.
  • Arrêt des connaissances : Novembre 2024

Limites

Entrées d'image
  • Console : Chargez une ou plusieurs images .png ou .jpg, chacune de 5 Mo ou moins.
  • API : Soumettez une version encodée base64 d'une image, en vous assurant que chaque image convertie est supérieure à 512 jetons et inférieure à 1 792 jetons. Par exemple, une image 512 x 512 se convertit généralement en environ 1 610 jetons.

Mode sur demande

Vous pouvez accéder aux modèles fondamentaux préentraînés dans l'IA générative au moyen de deux modes : sur demande et dédié. Voici les principales fonctions du mode sur demande :

  • Vous payez à l'utilisation pour chaque appel d'inférence lorsque vous utilisez les modèles dans le terrain de jeu ou lorsque vous appelez les modèles au moyen de l'API.

  • Faible barrière pour commencer à utiliser l'IA générative.
  • Idéal pour l'expérimentation, la preuve de concepts et l'évaluation des modèles.
  • Disponible pour les modèles préentraînés dans les régions non listées (grappe dédiée à l'IA uniquement).
Conseil

Pour garantir un accès fiable aux modèles d'IA générative en mode sur demande, nous recommandons de mettre en oeuvre une stratégie de secours, qui implique de retarder les demandes après un rejet. Sans cela, des demandes rapides répétées peuvent entraîner d'autres rejets au fil du temps, une latence accrue et un blocage temporaire potentiel du client par le service d'IA générative. En utilisant une stratégie d'attente, telle qu'une stratégie d'attente exponentielle, vous pouvez répartir les demandes plus uniformément, réduire la charge et améliorer le succès des tentatives, en suivant les meilleures pratiques du secteur et en améliorant la stabilité et la performance globales de votre intégration au service.

Note

Les modèles Grok sont disponibles uniquement en mode sur demande.

Voir le tableau suivant pour le nom du produit de ce modèle dans la page de tarification.

Nom de modèle Nom du modèle OCI Nom du produit de la page de tarification
xAI Grok 4 xai.grok-4 xAI – Grok 4

Date de version

Modèle Date de lancement de la disponibilité générale Date de mise hors service sur demande Date de mise hors service en mode dédié
xai.grok-4 2,025-7-23 Provisoire Ce modèle n'est pas disponible pour le mode dédié.
Important

Pour obtenir la liste de toutes les lignes de temps du modèle et les détails de mise hors service, voir Mise hors service des modèles.

Paramètres du modèle

Pour modifier les réponses du modèle, vous pouvez modifier les valeurs des paramètres suivants dans le terrain de jeu ou l'API.

Nombre maximal de jetons de sortie

Nombre maximal de marqueurs que le modèle doit générer pour chaque réponse. Estimer quatre caractères par jeton. Comme vous demandez un modèle de clavardage, la réponse dépend de l'invite et chaque réponse n'utilise pas nécessairement le nombre maximal de jetons alloués. La longueur maximale de l'invite et de la sortie est de 128 000 jetons pour chaque exécution.

Conseil

Pour les entrées volumineuses présentant des problèmes difficiles, définissez une valeur élevée pour le paramètre de nombre maximal de jetons de sortie. Voir Dépannage.
Température

Niveau de caractère aléatoire utilisé pour générer le texte de sortie. Min. : 0, Max. : 2

Conseil

Commencez avec la température réglée à 0 ou moins d'un, puis augmentez la température au fur et à mesure que vous régénérez les invites pour une sortie plus créative. Les températures élevées peuvent introduire des hallucinations et des informations factuellement incorrectes.
Haut p

Méthode d'échantillonnage qui contrôle la probabilité cumulative des jetons supérieurs à prendre en compte pour le jeton suivant. Affectez à p un nombre décimal compris entre 0 et 1 pour la probabilité. Par exemple, entrez 0,75 pour les 75 % principaux à prendre en compte. Réglez p à 1 pour prendre en compte tous les jetons.

Note

Le modèle xai.grok-4 a un raisonnement, mais ne prend pas en charge le paramètre reasoning_effort utilisé dans les modèles Grok 3 mini et Grok 3 mini rapides. Si vous spécifiez le paramètre reasoning_effort dans l'API pour le modèle xai.grok-4, vous obtenez une réponse d'erreur.

Dépannage

Problème : Le modèle Grok 4 ne répond pas.

Cause : Le paramètre Maximum output tokens (Jeux de sortie maximum) dans le terrain de jeu ou le paramètre max_tokens dans l'API est probablement trop faible.

Action : Augmentez le paramètre de jetons de sortie maximum.

Motif : Pour les problèmes difficiles qui nécessitent un raisonnement et une résolution de problèmes, et pour les entrées sophistiquées volumineuses, le modèle xai.grok-4 a tendance à penser et à consommer de nombreux jetons. Par conséquent, si le paramètre max_tokens est trop faible, le modèle utilise les jetons affectés et ne retourne pas de réponse finale.