OpenAI gpt-oss-20b (Beta)
Pre-General Availability: 2025-09-09
La presente documentazione è una versione provvisoria in attesa della messa a disposizione del prodotto alla generalità dei clienti e viene fornita a scopo esclusivamente dimostrativo. Potrebbe inoltre non essere specifica per l'hardware sul quale viene utilizzato il software. Oracle Corporation e le sue consociate declinano ogni responsabilità ed escludono espressamente qualsiasi tipo di garanzia relativa alla presente documentazione e non potranno quindi essere ritenute responsabili per qualsiasi perdita, costo o danno causato dall'utilizzo di tale documentazione.
La presente documentazione non costituisce un impegno da parte di Oracle a fornire materiale, codice, funzionalità o servizi. La presente documentazione e i programmi e i servizi Pre-GA di Oracle sono soggetti a modifiche in qualsiasi momento senza preavviso e, di conseguenza, non si può fare affidamento su di esse per prendere decisioni di acquisto. Lo sviluppo, il rilascio e la tempistica di qualsiasi funzione o funzionalità per i programmi e i servizi Pre-GA di Oracle rimangono di esclusiva pertinenza di Oracle. Tutte le date di rilascio o altre previsioni di eventi futuri sono soggette a modifiche. La disponibilità futura di qualsiasi programma o servizio Oracle non deve essere presa in considerazione per stipulare alcun contratto di licenza o servizio con Oracle.
Vedere Note legali Oracle.
openai.gpt-oss-20b è un modello di linguaggio a peso aperto e di solo testo progettato per il ragionamento potente e le attività identiche.
Disponibile in queste aree
- Germania centrale (Francoforte) (solo su richiesta)
- Giappone centrale (Osaka) (solo su richiesta)
- Midwest degli Stati Uniti (Chicago) (solo su richiesta)
Caratteristiche principali
- Nome del modello nell'AI generativa OCI:
openai.gpt-oss-20b - Dimensione modello: 21 miliardi di parametri
- Disponibile su richiesta: accedi a questo modello on-demand tramite l'area di gioco della console o l'API.
- Solo modalità testo: immettere testo e ottenere un output di testo. Immagini e input di file, ad esempio file audio, video e documenti, non sono supportati.
- Knowledge: specializzato in ragionamento avanzato e attività testuali su una vasta gamma di argomenti.
- Lunghezza contesto: 128.000 token (la lunghezza massima del prompt + della risposta è di 128.000 token per ogni esecuzione). Nel parco giochi, la lunghezza della risposta è limitata a 16.000 gettoni per ogni esecuzione.
- Eccellenze in questi casi d'uso: a causa dei suoi dati di formazione, questo modello è particolarmente efficace nel settore STEM (scienza, tecnologia, ingegneria e matematica), nella codifica e nella conoscenza generale. Utilizzabile per casi d'uso a bassa latenza, su dispositivo, inferenza locale o iterazione rapida che non richiedono memoria di grandi dimensioni.
- Chiamata di funzione: Sì, tramite l'API.
- Motivo: Sì.
- Knowledge Cutoff: giugno 2024
Per i dettagli sulle funzioni principali, consultare la OpenAI documentazione di gpt-oss.
Modalità su richiesta
Il modello OpenAI gpt-oss-20b (Beta) è disponibile solo in modalità su richiesta.
| Nome modello | Nome modello OCI | Recupero dell'accesso |
|---|---|---|
| OpenAI gpt-oss-20b (Beta) | openai.gpt-oss-20b |
Contact Oracle Beta Programs |
-
È possibile pagare man mano per ogni chiamata di inferenza quando si utilizzano i modelli nell'area di gioco o quando si chiamano i modelli tramite l'API.
- Barriera bassa per iniziare a utilizzare l'intelligenza artificiale generativa.
- Ottimo per la sperimentazione, la prova di concetto e la valutazione del modello.
- Disponibile per i modelli pre-addestrati in aree non elencate come (solo cluster AI dedicato).
Adeguamento limite limitazione dinamica per modalità su richiesta
OCI Generative AI regola in modo dinamico il limite di limitazione delle richieste per ogni tenancy attiva in base alla domanda del modello e alla capacità del sistema per ottimizzare l'allocazione delle risorse e garantire un accesso equo.
Questo adeguamento dipende dai seguenti fattori:
- Throughput massimo corrente supportato dal modello di destinazione.
- Capacità del sistema non utilizzata al momento della regolazione.
- Uso del throughput cronologico di ciascuna tenancy e qualsiasi limite di sostituzione specificato impostato per tale tenancy.
Nota: a causa della limitazione dinamica, i limiti di frequenza non sono documentati e possono cambiare per soddisfare la domanda a livello di sistema.
A causa dell'adeguamento dinamico del limite di limitazione, si consiglia di implementare una strategia di back-off, che prevede il ritardo delle richieste dopo un rifiuto. Senza una richiesta, le ripetute richieste rapide possono portare a ulteriori rifiuti nel tempo, a una maggiore latenza e a un potenziale blocco temporaneo del client da parte del servizio di intelligenza artificiale generativa. Utilizzando una strategia di back-off, ad esempio una strategia di back-off esponenziale, puoi distribuire le richieste in modo più uniforme, ridurre il carico e migliorare il successo dei nuovi tentativi, seguendo le best practice del settore e migliorando la stabilità e le prestazioni complessive della tua integrazione nel servizio.
Data di rilascio
| Modello | Data rilascio beta | Data smobilizzo su richiesta | Data smobilizzo modalità dedicata |
|---|---|---|---|
openai.gpt-oss-20b |
2.025-9-9 | Provvisorio | Questo modello non è disponibile per la modalità dedicata. |
Per ulteriori informazioni sull'obsolescenza e lo smobilizzo del modello di AI generativa OCI, vedere Ritiro dei modelli.
Parametri modello
Per modificare le risposte del modello, è possibile modificare i valori dei seguenti parametri nell'area di gioco o nell'API.
- Numero massimo di token di output
-
Numero massimo di token che si desidera venga generato dal modello per ogni risposta. Ogni risposta. Stima quattro caratteri per token. Poiché si sta richiedendo un modello di chat, la risposta dipende dal prompt e ogni risposta non utilizza necessariamente il numero massimo di token allocati. La lunghezza massima del prompt + output è di 128.000 token per ogni esecuzione. Nel campo di gioco, i token di output massimi sono limitati a 16.000 token per ogni esecuzione.
Suggerimento
Per input di grandi dimensioni con problemi difficili, impostare un valore elevato per il parametro del numero massimo di token di output. - Temperatura
-
Livello di casualità utilizzato per generare il testo di output. Min: 0, Max: 2, Predefinito: 1
Suggerimento
Iniziare con la temperatura impostata su 0 o meno e aumentare la temperatura quando si rigenerano i prompt per ottenere un output più creativo. Le alte temperature possono introdurre allucinazioni e informazioni di fatto errate. - Top p
-
Metodo di campionamento che controlla la probabilità cumulativa dei primi token da considerare per il token successivo. Assegnare a
pun numero decimale compreso tra 0 e 1 per la probabilità. Ad esempio, immettere 0,75 per il primo 75% da considerare. Impostarepsu 1 per considerare tutti i token. Impostazione predefinita: 1 - Penalità di frequenza
-
Penale assegnata a un token quando tale token appare frequentemente. Le sanzioni elevate incoraggiano un minor numero di token ripetuti e producono un output più casuale. Impostare su 0 per disabilitare. Predefinito: 0
- Penalità di presenza
-
Penalità assegnata a ciascun token quando viene visualizzato nell'output per incoraggiare la generazione di output con token non utilizzati. Impostare su 0 per disabilitare. Predefinito: 0