専用AIクラスタでのモデルの切替え

専用AIクラスタの作成時に、1つのユニット・シェイプを選択します。作成後にその形状を変更することはできません。クラスタを再利用するには、新しいモデルがクラスタのリージョン内の同じユニット・シェイプをサポートしている必要があります。

ハードウェア・タイプ(H100など)のみではなく、Cohere_H100_X2やCohere_H100_X4などの完全なユニット・シェイプ名を比較します。シェイプは、モデルとリージョンによって異なる場合があります。

• OCI Generative AIの事前トレーニング済モデルの場合は、「OCIモデルのベースライン・ハードウェア・ユニット・シェイプ」でプロバイダ固有の完全なユニット・シェイプ名を見つけます。
• インポートされたモデルの場合は、「互換性のあるモデル」の新しいモデルのページでサポートされているユニット・シェイプを検索し、そのハードウェア・シェイプが「インポートされたモデルのハードウェア・ユニット・シェイプ」のクラスタのリージョンで使用できることを確認します。インポートされたモデルの単位形状名にプロバイダ接頭辞がありません。たとえば、H100_X2とH100_X4は異なるシェイプです。

• 新しいモデルが既存のユニット・シェイプをサポートしている場合は、現在のモデルのエンドポイントを削除し、同じ専用AIクラスタ上に新しいモデルのエンドポイントを作成します。クラスタは引き続き割り当てられます。
• 新しいモデルで異なるユニット・シェイプが必要な場合は、そのシェイプと新しいモデルのエンドポイントを含む新しい専用AIクラスタを作成します。新しいクラスタを作成するために元のクラスタを削除する必要はありません。

デフォルトでは、クラスタは、同じホスト・モデルに対して最大50個のエンドポイントを持つことができます。これらのエンドポイントは、現在のモデルを提供するクラスタのモデル・レプリカを共有します。クラスタを別のモデルに切り替えるには、置換モデルのエンドポイントを作成する前に、現在のモデルのすべてのエンドポイントを削除します。削除されたエンドポイントへのリクエストは停止します。新しいエンドポイントがアクティブになったら、それを使用するようにアプリケーションを更新します。

Cohere Command Aを、米国東部(アッシュバーン)のCohere_H100_X2シェイプを持つ専用AIクラスタでホストするとします。「北米ベースライン・シェイプ」表に、同じリージョン内のモデルを切り替えるためのこれらのオプションを示します。

H100_X2シェイプの専用AIクラスタでQwen/Qwen3.6-35B-A3Bをホストするとします。これらの例では、ターゲット・リージョンにH100_X1、H100_X2およびH100_X4が使用可能です。「互換性のあるAlibabaモデル」ページには、H100_X1がQwen/Qwen3.8-27Bの最小H100ユニット・シェイプとしてリストされ、Qwen/Qwen3-Next-80B-A3B-Instructの場合はH100_X4がリストされます。Qwen/Qwen3.8-27Bモデルでは、これらの例ではH100_X2もサポートされています。

新しい専用AIクラスタの作成は、元の専用AIクラスタを削除するかどうかの決定とは異なります。請求条件は、モデル・タイプによって異なります。

• OCI Generative AIの事前トレーニング済モデルとカスタム・モデルのホスティング・クラスタは、最低744単位時間のコミットメントを持ちます。その最小値に達する前にクラスタを削除しても、最小料金は削除されません。
• インポートされたモデルのクラスタをホストする場合、744単位のコミットメントは必要ありません。かわりに、請求可能な最小期間は1時間です。Hardware Unit Shapes for Imported Modelsを参照してください。

元のクラスタを削除するかどうか、またはいつ削除するかを決定する前に、その使用状況、適用可能な最小請求額、および他のエンドポイントまたは互換性のあるモデルのいずれに必要かを確認します。クラスタを割り当てたままにすると、引き続き使用状況が発生します。また、新しいクラスタの請求条件も考慮します。コストの計算および価格のページを参照してください。