OpenAI gpt-oss-120b (New)

このシナリオは、プロンプトおよびレスポンスのサイズが事前に不明であるテキスト生成のユース・ケースを模倣します。プロンプト長と応答長が不明なため、プロンプト長と応答長の両方が正規分布に従う確率的アプローチを使用しました。プロンプトの長さは、平均480トークンと標準偏差240トークンの正規分布に従います。応答の長さは、平均300トークンと標準偏差150トークンの正規分布に従います。

このシナリオでは、プロンプトとレスポンスが短いチャットおよびダイアログのユースケースについて説明します。プロンプトとレスポンスの長さはそれぞれ100個のトークンに固定されます。

このシナリオは、生成およびモデル・レスポンスの重いユースケース用です。たとえば、アイテムの短い箇条書きリストから生成される長いジョブの説明です。この場合、プロンプトの長さは100トークンに固定され、レスポンスの長さは1,000トークンに固定されます。

検索拡張生成(RAG)シナリオには、大きな入力があり、ユースケースの要約などの短いレスポンスがあります。このシナリオでは、入力長は2,000トークンに固定され、応答長は200トークンに固定されます。

検索拡張生成(RAG)シナリオには、大きな入力があり、ユースケースの要約などの短いレスポンスがあります。このシナリオでは、入力長は7,800トークンに固定され、応答長は200トークンに固定されます。

検索拡張生成(RAG)シナリオには、大きな入力があり、ユースケースの要約などの短いレスポンスがあります。このシナリオでは、入力長は128,000トークンに固定され、応答長は200トークンに固定されます。