Unterstütztes NVIDIA Nemotron-Modell
Sie können große Sprachmodelle aus Hugging Face- und OCI Object Storage-Buckets in OCI Generative AI importieren, Endpunkte für diese Modelle erstellen und im generativen KI-Service verwenden.
NVIDIA Nemotron™ ist eine Familie offener Modelle mit offenen Gewichten, Trainingsdaten und Rezepten, die für agentenbezogene Workflows, Argumentation mit langem Kontext, Workloads mit hohem Volumen (z. B. IT-Ticketautomatisierung), die Verwendung von Tools und RAG geeignet sind. Die unterstützten Modelle in Hugging Face finden Sie in den Links in der folgenden Tabelle. Weitere Informationen zu NVIDIA Nemotron.
NVIDIA Nemotron
| Hugging Face-Modell-ID | Modellfähigkeit | Empfohlene Ausprägung der dedizierten KI-Clustereinheit |
|---|---|---|
| NVIDIA/NVIDIA-Nemotron-3-Super-120B-A12B-BF16 | TEXT_TO_TEXT | H100_X8 |
| NVIDIA/NVIDIA-Nemotron-3-Nano-30B-A3B-FP8 | TEXT_TO_TEXT | H100_X4 |
| nvidia/Llama-3.1-Nemotron-70B-Instruct-HF | TEXT_TO_TEXT | A100_80G_X4 |
| NVIDIA/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 | TEXT_TO_TEXT | A100_80G_X1 |