Pianificazione della distribuzione
Per distribuire questa architettura, utilizzare i passi di alto livello riportati di seguito.
- Preparare il negozio vettoriale.
Caricare i dati di inventario utilizzando Oracle Database 23ai. Assicurarsi che sia presente una colonna che includa una descrizione del prodotto. Questa è la colonna che verrà vettorizzata. L'uso del codice su un'istanza di computazione (in questo caso, un notebook Oracle Cloud Infrastructure Data Science) applica il modello di incorporamento di Oracle Cloud Infrastructure Generative AI alla colonna della descrizione utilizzando una dimensione chunk di 96 token per creare la colonna del tipo di vettore. Quindi, eseguire il push del set di dati in Oracle Database 23ai.
- Creare un'istanza di calcolo e distribuire le funzioni.
Crea un'istanza di computazione per ricevere chiamate API dall'applicazione retail front-end ed essere in grado di effettuare chiamate API AI vari servizi AI. Distribuisci le funzioni utilizzando Oracle Cloud Infrastructure Functions. Questa istanza di computazione funge anche da hub centrale per qualsiasi esigenza di computazione ad hoc.
- Crea l'integrazione front-end.
L'istanza di computazione è ora pronta per l'integrazione con l'applicazione e per la connessione all'applicazione configure-price-quote (CPQ). Questa architettura utilizza Oracle APEX Application Development per creare l'applicazione Web, ma è anche possibile integrare questa soluzione con i chatbot esistenti o Oracle Digital Assistant.
Questa architettura offre diverse opzioni di distribuzione.
Seleziona opzione di distribuzione AI
Oracle Database 23ai offre Select AI, uno strumento NL2SQL integrato nel database.
I vantaggi di questa opzione di distribuzione sono che i dati rimangono attivi e che sono adatti per lo sviluppo SQL. Questa opzione, tuttavia, non memorizza dati non strutturati.
Opzione di distribuzione agente RAG
Il servizio fornisce informazioni aggiornate attraverso un'interfaccia di linguaggio naturale e la possibilità di agire direttamente su di esso.
Questa opzione di distribuzione rende disponibili le origini dati per la knowledge base, ad esempio file pdf, manuali, blog e così via. LLM, tuttavia, è limitato all'agente RAG.
Opzione di distribuzione personalizzata
Utilizza le azioni rapide di Oracle Cloud Infrastructure Data Science per gestire ogni componente della pipeline di dati e LLM.
Data Science Quick Actions è una suite di azioni che può essere utilizzata insieme per distribuire, valutare e ottimizzare i modelli di base in Oracle Cloud Infrastructure Data Science.
I vantaggi di questa opzione di implementazione sono la possibilità di perfezionare i modelli e di avere il pieno controllo del flusso di dati. Per questa distribuzione è consigliata l'esperienza di Data Science.
