Modello Nemotron NVIDIA supportato
Puoi importare modelli di linguaggio di grandi dimensioni dai bucket di storage degli oggetti Hugging Face e OCI nell'AI generativa OCI, creare endpoint per tali modelli e utilizzarli nel servizio AI generativa.
NVIDIA Nemotron™ è una famiglia di modelli aperti con pesi aperti, dati di formazione e ricette, adatti per flussi di lavoro agentici, ragionamento a lungo termine, carichi di lavoro ad alto volume (ad esempio, automazione dei ticket IT), uso degli strumenti e RAG. Per i modelli supportati in Hugging Face, vedere i collegamenti nella tabella seguente. Informazioni su NVIDIA Nemotron.
NVIDIA Nemotron
| ID modello viso abbraccio | Capacità modello | Forma unità cluster AI dedicata consigliata |
|---|---|---|
| NVIDIA/NVIDIA-Nemotron-3-Super-120B-A12B-BF16 | TEXT_TO_TEXT | H100_X8 |
| NVIDIA/NVIDIA-Nemotron-3-Nano-30B-A3B-FP8 | TEXT_TO_TEXT | H100_X4 |
| nvidia/Llama-3.1-Nemotron-70B-Instruct-HF | TEXT_TO_TEXT | A100_80G_X4 |
| NVIDIA/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 | TEXT_TO_TEXT | A100_80G_X1 |