生成AIでのコストの計算
OCI Generative AIでは、オンデマンド推論または専用AIクラスタに対して支払うことができます:
- オンデマンド推論
-
- 従量制です。
- 各推論コールの文字長に対して支払います。
- 価格設定ページで、トランザクション数の価格を表示すると、推論コールの文字数になります。1つのトランザクションが1文字に等しい。
- 専用AIクラスタ
-
- GPUの専用セットが提供されます。
- 専用AIクラスタでカスタム・モデルを微調整できます。
- 専用AIクラスタで、基本モデルおよびファインチューニング・モデルのレプリカをホストできます。
- 専用AIクラスタを使用する特定の時間に事前にコミットします。価格については、価格のページを参照してください。
オンデマンドの推論または専用AIクラスタの使用を決定し、各オプションのコストを計算するために役立つ次のトピックと例を確認してください。