Kosten in generativer KI berechnen

In OCI Generative AI können Sie für On-Demand-Inferenzierung oder dedizierte KI-Cluster bezahlen:

Inferenzierung nach Bedarf
  • Sie zahlen, wie Sie gehen.
  • Sie zahlen für die Zeichenlänge jedes Inferenzaufrufs.
  • Wenn auf der Seite "Preisfindung" der Preis für die Anzahl der Transaktionen angezeigt wird, ist dies die Anzahl der Zeichen in Inferenzaufrufen. Eine Transaktion entspricht einem Zeichen.
Dedizierte KI-Cluster
  • Sie erhalten eine dedizierte Gruppe von GPUs.
  • Sie können benutzerdefinierte Modelle in den dedizierten KI-Clustern optimieren.
  • Sie können Replikate von grundlegenden und fein abgestimmten Modellen in den dedizierten KI-Clustern hosten.
  • Sie schreiben im Voraus fest, wie viele Stunden die dedizierten KI-Cluster verwendet werden. Preise finden Sie auf der Seite Preise.

In den folgenden Themen und Beispielen können Sie zwischen On-Demand-Inferenzierung oder der Verwendung von dedizierten KI-Clustern wählen und die Kosten für jede Option berechnen.