嵌入模式
实时 AI 管道可以通过多种方式生成和管理嵌入,具体取决于模型的运行位置、应用程序可以容忍的延迟,以及必须将生成嵌入的紧密程度与事务复制相结合。Oracle GoldenGate 支持多种嵌入模式,支持组织在数据通过复制管道移动时扩充数据,而不是仅依赖单独的批处理作业或下游后处理。两种最常见的方法是使用 @AISERVICE 调用外部 AI 服务,或使用 @DBFUNCTION 调用驻留在数据库中的嵌入逻辑。这两种模式都允许在数据移动期间创建嵌入,但它们在性能特征、操作依赖性、资源使用和一致性保证方面有所不同。选择正确的模式需要平衡吞吐量、延迟、模型治理、服务可用性,并需要使生成的向量与源数据保持同步。
| 模式 | 最好 | 注意 |
|---|---|---|
@AISERVICE |
GPU 支持的模型;集中式 AI 服务;数据库外部的可扩展推理 | 网络延迟;重试行为;服务可用性;外部依赖关系管理 |
@DBFUNCTION |
数据库内嵌入;与目标应用逻辑紧密耦合;本地治理 | 数据库 CPU 占用率;函数运行时;复制滞后;资源隔离 |