デプロイメントの概要
エージェント・ファクトリ・アプリケーションは、アプリケーションを環境間で一貫して実行できる、分離された軽量パッケージであるコンテナで実行されます。Podman、オープンソースのコンテナ・エンジン、Podman Composeを使用して、アプリケーションを複数のオペレーティング・システムで実行できるようにします。
現在サポートされているオペレーティング・システムは次のとおりです:
- Oracle Linux 8 (AMDx86_64)
- Oracle Linux 8 (ARM64)
- MAC OS ARM64 (M.xチップセット)
- MAC OS Intel
前提条件
エージェント・ファクトリには、プラットフォームに関係なく、次の前提条件が必要です:
-
Oracle AI Database 26ai: Oracle AI Database 26aiのインスタンスにアクセスする必要があります。この目的のために専用ユーザーを作成することをお薦めします。このユーザーは、本番データの格納ではなく、エージェント・ファクトリの表の管理にのみ使用する必要があります。
ノート: Oracle Databaseナレッジ・アシスタントでは、ユーザー表領域がBIGFILE表領域または100 GB以上である必要があります。
-
LLMエンドポイント: Oracle AI Database Private Agent Factoryは、大規模言語モデルとの統合を利用して適切に機能しています。選択した使用可能なLLMインスタンスでアプリケーションを接続するには、適切な認証資格証明またはアクセス・キーが必要です。
インストール・モード
Oracle AI Database Private Agent Factoryには、次の2つのインストール・モードがあります:
-
本番: 本番モードでは、データベースおよびLLMエンドポイントの詳細を手動で設定できます。この設定により、独自の資格証明を使用し、サポートされているLLMプロバイダ(vLLM、OpenAI、Ollamaなど)と、OCI GenAIが提供する事前トレーニング済の基礎モデルの完全なカタログに接続できます。リソース使用量は約7 GBのデバイス・ストレージと190 MBのRAMです。
-
クイックスタート: クイックスタート・モードでは、同じ環境内でローカルに動作するコンテナを介して、Oracle AI Database 26ai Freeのインスタンスを設定します。これにより、データベースを設定せずにエージェント・ファクトリの使用を開始できます。リソース使用量は約21 GBのデバイス・ストレージと8928 MBのRAMです。
デフォルトでは、Oracle AI Database Private Agent Factoryを実行しているコンテナはポート8080を使用します。クイックスタート・モードでインストールすると、Oracle AI Database 26ai Freeのインスタンスはポート1521で実行されます。インストールの問題を回避するために、このポートがシステムで使用できることを確認します。
| パラメータ | クイックスタート・モード | 本番モード |
|---|---|---|
| 設定 | 自動化されたローカル・コンテナ | 手動でのユーザー提供のエンドポイント |
| データベース | Oracle AI Database 26ai Free | ユーザーのOracle AI Database 26ai |
| LLM | ユーザーが選択したLLM (Ollama/OpenAI/vLLM/OCI生成AI) | ユーザーが選択したLLM (Ollama/OpenAI/vLLM/OCI生成AI) |
| ストレージ | 最大30 GB | 最大10 GB |
| RAM | 最大10 GB | 最大8 GB |
| ポート | 8080, 1521, 11434 | 8080 |
環境および開発要件を確認して、ニーズに最も適したインストール・モードを選択します。
LLMプリファレンス
次の表を使用して、オペレーティング・システム、VPNの可用性および用途に基づいて推奨されるLLM構成を特定します。
| 環境 | VPN | ユースケース | プリファレンスの順序(LLMエンドポイント) |
|---|---|---|---|
| Mac | オン | クイックスタート | [1] vllm、[2] ollama、[3] openai、[x] OCI (非推奨) |
| Mac | オン | 本番 | [1] vllm、[2] ollama、[3] openai、[x] OCI (非推奨) |
| Mac | オフ | クイックスタート | [1] ollama、[2] openai、[3] vllm、[x] OCI (非推奨) |
| Mac | オフ | 本番 | [1] ollama、[2] openai、[3] vllm、[x] OCI (非推奨) |
| Linux | オン/オフ | クイックスタート | [1] OCI、[2] openai、[3] ollama (Slow、GPUなし)、[4] vllm (Slow、GPUなし) |
| Linux | オン/オフ | 本番 | [1] OCI、[2] openai、[3] ollama (Slow、GPUなし)、[4] vllm (Slow、GPUなし) |
ノート: 大カッコ[]内の数字は、プリファレンスの順序を示します(1 = 最も優先)。
設定のタイプ
Oracle AI Database Private Agent Factoryは、Linux環境とMac環境の両方にインストールできます。どちらのオペレーティング・システムでも、VPN接続の有無にかかわらず、本番インストール・モードとクイックスタート・インストール・モードのいずれかを選択できます。使用しているプラットフォームおよびインストール・シナリオの詳細な設定手順については、表の適切なリンクを参照してください。
Linux
Oracle AI Database Private Agent Factoryは、X86-64およびARM64アーキテクチャに基づくLinux環境をサポートします。
| インストール・モード | VPNオン | VPNオフ |
|---|---|---|
| 本番 | Linux-本番-VPNあり | Linux-本番-VPNなし |
| クイックスタート | Linux-クイックスタート-VPNあり | Linux-クイックスタート-VPNなし |
Mac
Oracle AI Database Private Agent Factoryは、IntelおよびAppleシリコン・チップに基づくMacシステムの認定を受けています。
| インストール・モード | VPNオン | VPNオフ |
|---|---|---|
| 本番 | Mac-本番-VPNあり | Mac-本番-VPNなし |
| クイックスタート | Mac-クイックスタート-VPNあり | Mac-クイックスタート-VPNなし |