OpenAI gpt-oss-20b (New)

Questo scenario imita i casi d'uso di generazione testo in cui la dimensione del prompt e della risposta è sconosciuta in anticipo. A causa della lunghezza del prompt e della risposta sconosciuta, abbiamo utilizzato un approccio stocastico in cui sia la lunghezza del prompt che la lunghezza della risposta seguono una distribuzione normale. La lunghezza del prompt segue una distribuzione normale con una media di 480 token e una deviazione standard di 240 token. La lunghezza della risposta segue una distribuzione normale con una media di 300 token e una deviazione standard di 150 token.

Questo scenario copre i casi d'uso di chat e finestre di dialogo in cui il prompt e le risposte sono brevi. La lunghezza del prompt e della risposta è fissata a 100 token.

Questo scenario si riferisce a casi d'uso intensi di generazione e risposta modello. Ad esempio, una descrizione lunga del lavoro generata da un breve elenco puntato di elementi. In questo caso, la lunghezza del prompt è fissata a 100 token e la lunghezza della risposta è fissata a 1.000 token.

Lo scenario di retrieval-augmented generation (RAG) ha un input di grandi dimensioni e una risposta breve, ad esempio il riepilogo dei casi d'uso. In questo scenario, la lunghezza di input è fissata a 2.000 token e la lunghezza della risposta è fissata a 200 token.

Lo scenario di retrieval-augmented generation (RAG) ha un input di grandi dimensioni e una risposta breve, ad esempio il riepilogo dei casi d'uso. In questo scenario, la lunghezza di input è fissata a 7.800 token e la lunghezza della risposta è fissata a 200 token.

Lo scenario di retrieval-augmented generation (RAG) ha un input di grandi dimensioni e una risposta breve, ad esempio il riepilogo dei casi d'uso. In questo scenario, la lunghezza di input è fissata a 128.000 token e la lunghezza della risposta è fissata a 200 token.