使用 Oracle Cloud Infrastructure AI Agent Platform 建置 AI 支援的交談路由器

簡介

本教學課程示範如何建置 Oracle Cloud Infrastructure (OCI) AI 代理程式，此代理程式會根據使用者輸入的內容，使用 Oracle Cloud Infrastructure 代理程式開發套件 (OCI ADK) 將使用者輸入遞送至 OCI Generative AI 服務中代管的 LLM。您將瞭解如何將 OCI 服務邏輯封裝為工具、建立可解譯自然語言的 AI 代理程式，以及根據情境有效取得答案。如此一來，使用 AI 代理即可充分發揮 OCI 內部代管的 LLM。

在本教學課程中，我們將只在後端使用兩個 LLM。如果使用者的輸入是根據內容產生或文字摘要，則該輸入會傳送至 Llama 3.3 70B ；如果使用者的輸入是關於編碼或數學，則該輸入會傳送至 OCI Generative AI 服務上代管的 Llama 4 Maverick 。

注意：

熟悉基本 OCI 作業和 Python 開發非常有用，但並非必要。

請確定您的 OCI 使用者和服務帳戶具備在 OCI 內存取 OCI Generative AI 服務和代理程式端點的權限。

設定第一個 AI 代理程式之後，您可以使用 OCI ADK 工具程式介面來定義和註冊其他 OCI 服務，藉此輕鬆擴展 AI 代理程式以涵蓋其他 OCI 服務。

目標

瞭解 OCI AI 代理和 OCI ADK 的架構和工作流程。
開發自訂工具組。
設定、註冊及執行根據相關資訊環境回答最佳的 AI 代理程式。
使用 AI 代理使用 OCI Generative AI 聊天服務。
使用 OCI ADK 重複使用此學習來開發使用 OCI 服務的相似代理程式。

必備條件

安裝 uv：依照您的作業系統使用下列指令安裝 uv。

macOS/Linux:

curl -LsSf https://astral.sh/uv/install.sh | sh

Windows：

powershell -c "irm https://astral.sh/uv/install.ps1 | iex"

建立虛擬環境：瀏覽至您的專案目錄，並使用 uv 命令建立虛擬環境。
```
uv venv
```
啟用虛擬環境：啟動虛擬環境。
- macOS/Linux:
```
source .venv/bin/activate
```
- Windows：
```
.venv\Scripts\activate
```
安裝必要的套裝軟體：使用 uv 指令安裝必要的套裝軟體。
```
uv pip install oci "oci[adk]" rich pydantic docstring_parser
```
確保您具備：
- 有效的 OCI 證明資料和組態。如需更多資訊，請參閱設定配置檔案。
- Oracle Cloud Infrastructure Identity and Access Management (OCI IAM) 原則允許存取 OCI Generative AI 服務，以及註冊和使用代理程式端點。
- 可用的 OCI 代理程式端點或可建立端點。

工作 1：從 OCI 主控台建立 OCI AI 代理程式

Oracle Cloud Infrastructure AI Agent Platform (OCI AI Agent Platform) 可讓您建立智慧型助理，解譯使用者問題、規劃動作，以及針對 OCI API 呼叫自訂或內建工具 (技能)。每個工具都是以 Python 類別的形式封裝，其中包含確認至 OCI ADK 工具註冊系統的特定方法。

登入 OCI 主控台，瀏覽至生成式 AI 代理程式，然後按一下建立代理程式。
在基本資訊區段中，輸入名稱與歡迎訊息。路由指示將保留為此教學課程的一部分。按下一步。
在新增工具段落中，請勿建立任何工具。我們將使用 OCI ADK 建立 ADK。
在設定代理程式端點區段中，選取監護人。
按一下建立代理程式。

關鍵概念：

代理程式： AI 驅動的解譯器和協調器。
工具 / 工具組：具有一或多個代理程式公開之作業的類別 (@tool)。
代理程式端點：提供程式實際執行與連線的 OCI 資源。
代理程式從屬端：用於代理程式端點通訊的 Python 從屬端。

注意：代理程式可以跨多個工具組 (例如 Oracle Cloud Guard、區間) 遞送使用者要求，並視需要撰寫多步驟作業。

工作 2：在本機設定 OCI ADK

您將撰寫 Python 類別定義顯示 Oracle Cloud Guard 作業的工具。每個函數都會加上 @tool 加註，並且可以由代理程式以自然語言呼叫。

更新代理程式檔案中的認證

更新認證類型 (auth_type)，選取已建立 AI 代理程式端點的 profile 和 region 組態。
更新端點 OCID (agent_endpoint_id) 以及 get_config.py。

作業 3。執行 AI 代理程式

下載下列檔案並將其儲存在相同的目錄中。
根據您的需求更新 oci_ai_route.py 檔案中的輸入。
使用下列命令執行 oci_ai_route.py 檔案。
```
uv run oci_ai_route.py 
```
系統會根據內容來呼叫必要的模型並產生內容。

注意：您可以使用新增至您 Web 應用程式或應用程式的 oci_ai_route.py 中的 agent.run() 來呼叫此代理程式。

確認

作者 - Mukund Murali (主要雲端架構師)

其他學習資源

在 docs.oracle.com/learn 上探索其他實驗室，或在 Oracle Learning YouTube 頻道上存取更多免費學習內容。此外，請造訪 education.oracle.com/learning-explorer 以成為 Oracle Learning Explorer。

如需產品文件，請造訪 Oracle Help Center 。

標題與著作權資訊

Build an AI Powered Chat Router Using Oracle Cloud Infrastructure AI Agent Platform

G38674-01