Documentation Oracle Cloud Infrastructure

OpenAI gpt-oss-120b (New)

OCI Generative AI prend en charge l'accès au modèle OpenAI gpt-oss-120b préentraîné.

openai.gpt-oss-120b est un modèle de langage à poids ouvert, en texte uniquement, conçu pour des tâches agentiques et de raisonnement puissantes.

Disponible dans ces régions

  • Allemagne centrale (Francfort)
  • Centre du Japon (Osaka)
  • Midwest des Etats-Unis (Chicago)

Principales fonctionnalités

  • Nom du modèle dans OCI Generative AI : openai.gpt-oss-120b
  • Taille du modèle : 117 milliards de paramètres
  • Mode texte uniquement : saisissez du texte et obtenez une sortie texte. Les images et les entrées de fichier telles que les fichiers audio, vidéo et de document ne sont pas prises en charge.
  • Connaissances : spécialisé dans les tâches avancées de raisonnement et de texte sur un large éventail de sujets.
  • Longueur du contexte : 128 000 jetons (la longueur maximale de l'invite + de la réponse est de 128 000 jetons pour chaque exécution). Dans le terrain de jeu, la longueur de la réponse est plafonnée à 16 000 jetons pour chaque exécution.
  • Excelle dans ces cas d'utilisation : en raison de ses données d'entraînement, ce modèle est particulièrement performant en STEM (science, technologie, ingénierie et mathématiques), en codage et en connaissances générales. Convient pour les tâches de haut niveau et de production.
  • Appel de fonction : Oui, via l'API.
  • A un raisonnement : Oui.
  • Limite de connaissances : juin 2024

Pour plus d'informations sur les principales fonctionnalités, reportez-vous à la documentation gpt-oss OpenAI.

Mode à la demande

Remarque

Le modèle OpenAI gpt-oss-120b (Beta) est disponible uniquement en mode à la demande.
Nom du modèle Nom du modèle OCI Nom du produit de la page de tarification
OpenAI gpt-oss-120b openai.gpt-oss-120b OpenAI - gpt-oss-120b

Prix pour :

  • Jetons d'entrée
  • Jetons de sortie
Vous pouvez atteindre les modèles de base préentraînés dans l'IA générative via deux modes : à la demande et dédié. Voici les principales fonctionnalités du mode à la demande :

  • Vous payez au fur et à mesure pour chaque appel d'inférence lorsque vous utilisez les modèles dans le playground de test ou lorsque vous appelez les modèles via l'API.

  • Faible barrière pour commencer à utiliser l'IA générative.
  • Idéal pour l'expérimentation, la preuve de concept et l'évaluation de modèle.
  • Disponible pour les modèles préentraînés dans les régions non répertoriées en tant que (cluster d'IA dédié uniquement).
Important

Ajustement de limite d'accélération dynamique pour le mode à la demande

OCI Generative AI ajuste dynamiquement la limite d'ajustement des demandes pour chaque location active en fonction de la demande de modèle et de la capacité du système afin d'optimiser l'allocation des ressources et de garantir un accès équitable.

Cet ajustement dépend des facteurs suivants :

  • Débit maximal actuel pris en charge par le modèle cible.
  • Toute capacité système inutilisée au moment de l'ajustement.
  • Utilisation du débit historique de chaque location et limites de remplacement indiquées définies pour cette location.

Remarque : En raison de l'ajustement dynamique, les limites de taux ne sont pas documentées et peuvent changer pour répondre à la demande à l'échelle du système.

Conseil

En raison de l'ajustement de la limite de ralentissement dynamique, nous vous recommandons d'implémenter une stratégie de back-off, qui consiste à retarder les demandes après un rejet. Sans cela, des demandes rapides répétées peuvent entraîner d'autres rejets au fil du temps, une latence accrue et un blocage temporaire potentiel du client par le service d'IA générative. En utilisant une stratégie de back-off, telle qu'une stratégie de back-off exponentielle, vous pouvez répartir les demandes plus uniformément, réduire la charge et améliorer le succès des nouvelles tentatives, en respectant les meilleures pratiques du secteur et en améliorant la stabilité et les performances globales de votre intégration au service.

Cluster d'IA dédié pour le modèle

Dans la liste de régions précédente, les régions qui ne sont pas marquées par (cluster d'IA dédié uniquement) ont à la fois des options de cluster d'IA à la demande et dédié. Pour l'option à la demande, vous n'avez pas besoin de clusters et vous pouvez accéder au modèle dans le playground de test de la console ou via l'API. Découvrez le mode dédié.

Pour atteindre un modèle via un cluster d'IA dédié dans une région répertoriée, vous devez créer une adresse pour ce modèle sur un cluster d'IA dédié. Pour connaître la taille d'unité de cluster correspondant à ce modèle, reportez-vous au tableau suivant.

Modèle de base Cluster de réglage fin Cluster d'hébergement Informations sur la page de tarification Demander une augmentation de limite de cluster
  • Nom du modèle : OpenAI gpt-oss-120b
  • Nom du modèle OCI : openai.gpt-oss-120b
 Non disponible pour le réglage fin
  • Taille d'unité : OAI_H100_X2
  • Unités obligatoires : 1
  • Nom du produit de la page de tarification : OpenAI - Dedicated
  • Pour l'Hébergement, Multiplier le Prix Unitaire : x2
  • Nom de la limite : dedicated-unit-h100-count
  • Pour l'hébergement, demandez une augmentation de limite de : 2
Conseil

Si vous ne disposez pas de suffisamment de limites de cluster dans votre location pour héberger le modèle OpenAI gpt-oss-120b sur un cluster d'IA dédié, demandez une augmentation de 2 de la limite dedicated-unit-h100-count.

Tests de performances du cluster

Consultez les tests d'évaluation des performances du cluster OpenAI gpt-oss-120b (nouveau) pour différents cas d'utilisation.

Dates de déblocage et de sortie

Modèle Date de lancement Date de sortie à la demande Date de retrait du mode dédié
openai.gpt-oss-120b 2025-11-17 Au moins un mois après la publication du 1er modèle de remplacement. Au moins 6 mois après la publication du 1er modèle de remplacement.
Important

Pour obtenir la liste de toutes les lignes de temps du modèle et des détails de sortie, voir Mettre hors service les modèles.

Paramètres de modèle

Pour modifier les réponses du modèle, vous pouvez modifier les valeurs des paramètres suivants dans le playground de test ou l'API.

Nombre maximal de sèmes de sortie

Nombre maximal de sèmes que le modèle doit générer pour chaque réponse. Estimez quatre caractères par jeton. Comme vous demandez un modèle de discussion, la réponse dépend de l'invite et chaque réponse n'utilise pas nécessairement le nombre maximal de jetons alloués. La longueur maximale de l'invite + de la sortie est de 128 000 jetons pour chaque exécution. Dans le terrain de jeu, le nombre maximal de jetons de sortie est plafonné à 16 000 pour chaque exécution.

Conseil

Pour les entrées volumineuses présentant des problèmes difficiles, définissez une valeur élevée pour le paramètre de jetons de sortie maximum.
Température

Niveau de randomité utilisé pour générer le texte de sortie. Min : 0, Max : 2, Valeur par défaut : 1

Conseil

Commencez par définir la température sur 0 et augmentez-la à mesure que vous régénérez les invitations pour affiner les sorties. Les températures élevées peuvent introduire des hallucinations et des informations factuellement incorrectes.
Valeur Top p

Méthode d'échantillonnage qui contrôle la probabilité cumulée des jetons supérieurs à prendre en compte pour le jeton suivant. Affectez à p un nombre décimal compris entre 0 et 1 pour la probabilité. Par exemple, entrez 0,75 pour les 75 % les plus importants à prendre en compte. Définissez p sur 1 pour prendre en compte tous les jetons. Par défaut : 1

Pénalité de fréquence

Pénalité affectée à un jeton lorsque ce dernier apparaît fréquemment. Les pénalités élevées encouragent moins de jetons répétés et produisent un résultat plus aléatoire. Définissez la valeur sur 0 pour désactiver. Par défaut : 0

Pénalité de présence

Pénalité affectée à chaque jeton lorsqu'il apparaît dans la sortie pour encourager les sorties avec des jetons qui n'ont pas été utilisés. Définissez la valeur sur 0 pour désactiver. Par défaut : 0