汎用AIでのコストの計算

OCIジェネレーティブAIでは、オンデマンド推論または専用AIクラスタに対して支払うことができます:

オンデマンド推論
  • 外出先払い。
  • 推論コールの文字長ごとに支払います。
  • 価格設定ページで、トランザクション数の価格が表示された場合、推論コールの文字数です。1つのトランザクションが1文字に等しい
専用AIクラスタ
  • 専用のGPUセットを取得できます。
  • 専用AIクラスタでカスタム・モデルを微調整できます。
  • 専用AIクラスタでは、基礎モデルとファインチューニング・モデルのレプリカをホストできます。
  • 専用AIクラスタを使用する特定の時間に事前にコミットします。価格については、価格のページを参照してください。

次のトピックと例を確認して、オンデマンド推論または専用AIクラスタの使用を決定し、各オプションのコストを計算するのに役立ちます。