Bereitstellung planen

Um diese Architektur bereitzustellen, führen Sie die folgenden allgemeinen Schritte aus.

1. Bereiten Sie den Vektorspeicher vor.

   Laden Sie die Bestandsdaten mit Oracle Database 23ai hoch. Stellen Sie sicher, dass eine Spalte vorhanden ist, die eine Beschreibung des Produkts enthält. Dies ist die Spalte, die vektorisiert wird. Wenn Sie Code auf einer Compute-Instanz (in diesem Fall einem Oracle Cloud Infrastructure Data Science-Notizbuch) verwenden, wenden Sie das Oracle Cloud Infrastructure Generative AI-Einbettungsmodell mit einer Chunk-Größe von 96 Token zur Erstellung der Vektortypspalte auf die Beschreibungsspalte an. Senden Sie das Dataset dann an Oracle Database 23ai.

2. Erstellen Sie eine Compute-Instanz, und stellen Sie Funktionen bereit.

   Erstellen Sie eine Compute-Instanz, um API-Aufrufe von der Frontend-Einzelhandelsanwendung zu empfangen und API-Aufrufe an die verschiedenen KI-Services ausführen zu können. Stellen Sie Funktionen mit Oracle Cloud Infrastructure Functions bereit. Diese Compute-Instanz dient auch als zentraler Hub für alle Ad-hoc-Compute-Anforderungen.

3. Erstellen Sie die Frontend-Integration.

   Ihre Compute-Instanz kann jetzt in Ihre Anwendung integriert werden und eine Verbindung zur CPQ-(Configure-Price-Quote-)Anwendung herstellen. Diese Architektur verwendet Oracle APEX Application Development, um die Webanwendung zu erstellen. Sie können diese Lösung jedoch auch in vorhandene Chatbots oder Oracle Digital Assistant integrieren.

Diese Architektur bietet mehrere Deployment-Optionen.

AI-Deployment-Option auswählen

Oracle Database 23ai stellt Select AI bereit, ein in die Datenbank integriertes NL2SQL-Tool.

Die Vorteile dieser Deployment-Option sind, dass die Daten vorhanden bleiben und für die SQL-Entwicklung geeignet sind. Diese Option speichert jedoch keine unstrukturierten Daten.

Beschreibung der Abbildung select_ai_shopping_cart.png

select-ai-shopping-cart-oracle.zip

RAG-Agent-Deployment-Option

Verwenden Sie den Oracle Cloud Infrastructure-RAG-Agent, der die Leistungsfähigkeit von Large Language Models (LLMs) und Retrieval-Augmented Generation (RAG) mit Ihren Unternehmensdaten kombiniert, sodass Benutzer verschiedene Unternehmenswissensdatenbanken abfragen können.

Der Service bietet aktuelle Informationen über eine natürliche Sprachschnittstelle und die Möglichkeit, direkt darauf zu reagieren.

Diese Bereitstellungsoption stellt Datenquellen für die Wissensdatenbank wie PDF-Dateien, Handbücher, Blogs usw. zur Verfügung. Der LLM ist jedoch auf den RAG Agent beschränkt.

Beschreibung der Abbildung ai_rag_agent_shopping_cart.png

ai-rag-agent-shopping-cart-oracle.zip

Benutzerdefinierte Deployment-Option

Mit Oracle Cloud Infrastructure Data Science-Schnellaktionen können Sie jede Komponente der Daten- und LLM-Pipeline verwalten.

Data Science-Schnellaktionen sind eine Suite von Aktionen, mit denen Grundlagenmodelle in Oracle Cloud Infrastructure Data Science bereitgestellt, ausgewertet und optimiert werden können.

Die Vorteile dieser Deployment-Option sind die Möglichkeit, die Modelle zu optimieren und den Datenfluss vollständig zu steuern. Für dieses Deployment wird Data Science-Expertise empfohlen.

Beschreibung der Abbildung ai_custom_shopping_cart.png

ki-custom-shopping-cart-oracle.zip