使用 @AISERVICE 嵌入外部 AI

Oracle GoldenGate 提供 @AISERVICE 功能，可直接在複製管線中呼叫外部 AI 服務。這樣一來，無需自訂中介軟體即可即時強化 (例如嵌入生成、分類或摘要)。透過在 Replicat 處理期間呼叫受管理的 AI 端點，組織可以將雲端或自訂 AI 服務無縫整合至資料移動工作流程。

@AISERVICE 允許 Replicat 呼叫外部 AI 端點 (例如 REST 型內嵌服務)，並使用回應填入目標資料欄。與在資料庫內執行邏輯的 @DBFUNCTION 不同，@AISERVICE 可將運算卸載至外部服務，使其適用於 GPU 支援的模型或集中式 AI 平台。

下列範例示範在複寫期間使用外部 AI 服務產生內嵌項目：

MAP cust_addresses, TARGET cust_addresses_vector,
COLMAP (
  USEDEFAULTS,
  address_vector = @AISERVICE(
    SERVICE 'embedding_service_alias',
    PARAMS (
      'street' = @AFTER.street,
      'city'   = @AFTER.city,
      'zip'    = @AFTER.zip
    ),
    RETURN 'vector'
  )
);

在此組態中：

• embedding_service_alias 是 GoldenGate AI 服務端點。
• Street、City、Zip 資料欄會作為輸入傳送至 embedding_service_alias
• 傳回的向量資料會儲存在目標表格中的 address_vector column 中。

@AISERVICE 最佳實務

為了有效地在 Oracle GoldenGate 內運用 @AISERVICE，組織應遵循一組最佳實務，以確保即時 AI 管道的效能、可靠性及擴展性。由於 @AISERVICE 在複製路徑中引進外部相依性，因此必須仔細設計以避免瓶頸並確保資料處理的一致性。

使用 @AISERVICE 作為需要大量運算的模型，以避免資料庫資源超載。

@AISERVICE 應用於運算密集型 AI 工作負載 (例如大型語言模型推論或高維度內嵌產生)，而卸載至 GPU 備份或受管理的 AI 服務則提供比資料庫內執行更佳的擴展性。這有助於保留核心交易和查詢工作負載的資料庫資源。

確保低延遲、高可用性的 AI 端點，以防止複寫延遲

外部 AI 服務必須具備高可用性且低延遲。由於 Replicat 處理取決於服務的回應，因此緩慢或不可靠的端點可能會造成複寫延遲或回溯壓力。在鄰近網路 (例如相同區域或 VCN) 中部署 AI 服務並使用負載平衡可大幅提升效能。

實行服務呼叫的逾時和重試原則

應實作健全的錯誤處理和重試機制。暫時性失敗 (例如網路逾時或服務節流) 不應該中斷複製。組態應包含逾時、重試原則及後援處理 (例如，將失敗的記錄遞送至無法寄出的信件佇列以供日後處理)。

儘可能快取或去除重複要求，以減少外部呼叫

組織應在適用的情況下實行去除重複或快取策略，將不必要的外部呼叫降到最低。例如，相同的輸入文字可以重複使用先前產生的內嵌內容，進而降低成本和延遲。

監控服務延遲和錯誤率以及 GoldenGate 度量，以確保符合 SLA

全方位監控至關重要。團隊應追蹤 AI 服務延遲、錯誤率和傳輸量，以及 GoldenGate 複寫指標 (例如延遲和套用率)。關聯這些指標可加快疑難排解速度，並確保 GoldenGate 與外部 AI 服務之間的整合保持高效能且可靠。