Kosten in generativer KI berechnen
In OCI Generative AI können Sie für On-Demand-Inferenzierung oder dedizierte KI-Cluster bezahlen:
- On-Demand-Inferenzierung
-
- Sie bezahlen, wie Sie gehen.
- Sie zahlen für die Zeichenlänge jedes Inferenzanrufs.
- Wenn auf der Preisfindungsseite der Preis für die Anzahl der Transaktionen angezeigt wird, ist dies die Anzahl der Zeichen in Inferenzaufrufen. Eine Transaktion entspricht einem Zeichen.
- Dedizierte KI-Cluster
-
- Sie erhalten eine dedizierte Gruppe von GPUs.
- Sie können benutzerdefinierte Modelle in den dedizierten AI-Clustern optimieren.
- Sie können Replikate von grundlegenden und fein abgestimmten Modellen in den dedizierten AI-Clustern hosten.
- Sie schreiben im Voraus bestimmte Stunden der Verwendung der dedizierten AI-Cluster fest. Preise finden Sie auf der Preisfindungsseite.
In den folgenden Themen und Beispielen können Sie zwischen On-Demand-Inferenzierung oder der Verwendung von dedizierten AI-Clustern wählen und die Kosten für jede Option berechnen.