Oracle Cloud Infrastructureドキュメント

モデルの取下げ

OCI Generative AIは、各モデルのタイプとサービス・モードに基づいて、大規模言語モデル(LLM)を廃止します。LLMは、オンデマンド・サービング・モードまたは専用サービング・モードのいずれかでユーザー・リクエストを処理します。廃止と削除の時間について学習し、最適なサービス・モードを決定するには、次の項を参照してください。

用語

退職
モデルがリタイアされると、生成AIサービスで使用できなくなります。
非推奨
モデルが非推奨になると、汎用AIサービスでは引き続き使用できますが、リタイアされるまでにそのモデルを使用できる時間は定義されています。

提供モードについて

オンデマンド・サービス・モード

オンデマンド・サービング・モードは、事前トレーニング済の基礎モデルでのみ使用でき、次の特性があります。

  • OCI Generative AIが新しいモデル・バージョンまたはファミリをリリースすると、古いモデル・バージョンまたはファミリが廃止されるまで、同じモデルのバージョンまたは2つのファミリの両方がサポートされる期間が重複する可能性があります。
  • すべてのモデル・ファミリおよびバージョンは、サポートされているすべてのOCIリージョンで使用できるわけではありません。各リージョンで使用可能なモデルについては、ジェネレーティブAIの事前トレーニングされた基盤モデルの主な機能を参照してください。
サポートされているオンデマンド・サービング・モード・モデル

次の表に、オンデマンド・サービング・モードのモデル取得日を示します。

モデル リリース日 廃止日 置換モデル
cohere.command-r-plus v1.2 2024-06-18 第1置換モデルのリリースから少なくとも1か月後。 仮予約
cohere.command-r-16k v1.2 2024-06-04 第1置換モデルのリリースから少なくとも1か月後。 仮予約
meta.llama-3-70b-instruct v1.0 2024-06-04 第1置換モデルのリリースから少なくとも1か月後。 仮予約
cohere.command v15.6 2024-02-07 2024-07-18 cohere.command-r-plus v1.2
cohere.command-light v15.6 2024-02-07 2024-07-09 cohere.command-r-16k v1.2
cohere.embed-english-v3.0 2024-02-07 第1置換モデルのリリースから少なくとも6か月後。 仮予約
cohere.embed-multilingual-light-v3.0 2024-02-07 第1置換モデルのリリースから少なくとも6か月後。 仮予約
meta.llama-2-70b-chat 2024-01-22 2024-07-09 meta.llama-3-70b-instruct
専用サービングモード

専用サービング・モードは、カスタム・ベース・モデルおよび事前トレーニング済ベース・モデルで使用でき、次の特性があります。

  • 各ホスティング専用AIクラスタは、各モデルの同じバージョンのみをホストできるため、専用AIクラスタがすでにホストしているモデル・バージョンを使用し、重複する期間内に移行しない場合は、そのバージョンの長期サポートをリクエストできます。
  • 既存のエンドポイントは引き続き実行されます。
重要

退職日より長く存続するために専用のサービング・モード・モデルが必要な場合は、サポート・チケットを作成します。
サポートされている専用サービング・モード・モデル
モデル リリース日 廃止日 置換モデル
cohere.command-r-plus v1.2 2024-06-18 第1置換モデルのリリースから少なくとも6か月後。 仮予約
cohere.command-r-16k v1.2 2024-06-04 第1置換モデルのリリースから少なくとも6か月後。 仮予約
meta.llama-3-70b-instruct v1.0 2024-06-04 第1置換モデルのリリースから少なくとも6か月後。 仮予約
cohere.command v15.6 2024-02-07 2025-01-18 cohere.command-r-plus v1.2
cohere.command-light v15.6 2024-02-07 2025-01-04 cohere.command-r-16k v1.2
cohere.embed-english-v3.0 2024-02-07 第1置換モデルのリリースから少なくとも6か月後。 仮予約
cohere.embed-multilingual-light-v3.0 2024-02-07 第1置換モデルのリリースから少なくとも6か月後。 仮予約
meta.llama-2-70b-chat 2024-01-22 2025-01-04 meta.llama-3-70b-instruct
ノート

非推奨時間は今後変更される可能性があります。
基本モデルのセキュリティ脆弱性およびバグ修正

生成AIサービスは、サポートされているベース・モデルのいずれかに存在するセキュリティ問題やバグ修正に対して迅速に軽減するよう努めています。別のバージョンに移行する必要があるかどうかを確認するには、OCIのリリース・ノートを確認してください。