Planificación del despliegue
Para desplegar esta arquitectura, utilice los siguientes pasos de alto nivel.
- Prepare el almacén de vectores.
Cargue los datos de inventario mediante Oracle Database 23ai. Asegúrese de que haya una columna que incluya alguna descripción del producto. Esta es la columna que se vectorizará. El uso de código en una instancia informática (un bloc de notas de Oracle Cloud Infrastructure Data Science en este caso) aplica el modelo de embebido de Oracle Cloud Infrastructure Generative AI a la columna de descripción mediante un tamaño de fragmento de 96 tokens para crear la columna de tipo vectorial. A continuación, transfiera el juego de datos a Oracle Database 23ai.
- Cree una instancia informática y despliegue funciones.
Cree una instancia informática para recibir llamadas de API desde la aplicación front-end para el sector minorista y poder realizar llamadas de API a los distintos servicios de IA. Despliegue funciones con Oracle Cloud Infrastructure Functions. Esta instancia informática también sirve como hub central para cualquier necesidad de recursos informáticos ad hoc.
- Cree la integración de front-end.
La instancia informática ya está lista para integrarse con la aplicación y conectarse a la aplicación configure-price-quote (CPQ). Esta arquitectura utiliza Oracle APEX Application Development para crear la aplicación web, pero también puede integrar esta solución con bots conversacionales existentes u Oracle Digital Assistant.
Esta arquitectura proporciona varias opciones de despliegue.
Seleccionar opción de despliegue de AI
Oracle Database 23ai proporciona Select AI, una herramienta NL2SQL integrada en la base de datos.
Las ventajas de esta opción de despliegue son que los datos permanecen en su lugar y que son adecuados para el desarrollo de SQL. Sin embargo, esta opción no almacena datos no estructurados.
Opción de despliegue de agente de RAG
El servicio proporciona información actualizada a través de una interfaz de lenguaje natural y la capacidad de actuar directamente sobre él.
Esta opción de despliegue hace que los orígenes de datos estén disponibles para la base de conocimientos, como archivos PDF, manuales, blogs, etc. Sin embargo, el LLM está limitado al agente de RAG.
Opción de Despliegue Personalizado
Utilice las acciones rápidas de Oracle Cloud Infrastructure Data Science para gestionar todos los componentes del pipeline de datos y LLM.
Las acciones rápidas de Data Science son un conjunto de acciones que, en conjunto, se pueden utilizar para desplegar, evaluar y ajustar modelos básicos en Oracle Cloud Infrastructure Data Science.
Las ventajas de esta opción de despliegue son la capacidad de ajustar los modelos y tener un control total del flujo de datos. Se recomienda contar con experiencia en Data Science para este despliegue.
