Einen KI-gestützten Chatbot bereitstellen

Die Entwicklung eines Chatbots kann aufgrund der vielen verfügbaren Optionen komplex und zeitaufwendig sein. Unternehmen suchen einen schnellen, personalisierten Kundenservice rund um die Uhr und eine Kostensenkung, indem sie den Bedarf an menschlichen Mitarbeitern minimieren. Sie möchten jedoch Chatbots schnell und kostengünstig bereitstellen.

Diese Referenzarchitektur zeigt, wie Sie mit Oracle Digital Assistant und OCI Generative AI schnell einen KI-gestützten Chatbot in Ihrem Oracle Cloud Infrastructure-(OCI-)Mandanten bereitstellen können. Die bereitgestellte Infrastruktur und Komponenten vereinfachen die Anpassung an die Anforderungen Ihres Unternehmens. Zu den wichtigen Features zählen:

  • Autor: Generieren Sie Dokumente wie Vertriebspläne, Branchenübersichten und Kundenrecherchen.
  • Zusammenfassen: Laden Sie Transkripte oder Dokumente hoch, um präzise Zusammenfassungen zu erhalten.
  • Fragen und Antworten: Stellen Sie allgemeine Fragen, und erhalten Sie schnelle Antworten basierend auf Webinhalten und den Trainingsdaten des Chatbots.

Mit dieser Referenzarchitektur können Sie schnell und einfach einen KI-gestützten Chatbot mit Oracle Digital Assistant- und Oracle AI-Services bereitstellen.

Architektur

In dieser Referenzarchitektur wird beschrieben, wie Sie einen KI-gestützten Chatbot in Ihrem eigenen OCI-Mandanten konfigurieren und bereitstellen. Dieser Chatbot kann Inhalte generieren oder zusammenfassen, Fragen beantworten, Sprachen übersetzen und vieles mehr.

Dieser KI-gestützte Chatbot nutzt große Sprachmodelle (LLMs) von Oracle Digital Assistant und OCI Generative AI. Oracle Visual Builder wird verwendet, um den Chatbot in eine Webanwendung einzubetten. Benutzer können über Fragen in natürlicher Sprache mit OCI Generative AI interagieren und über die Chatbot-Schnittstelle Antworten vom LLM erhalten.

Das folgende Diagramm veranschaulicht diese Referenzarchitektur.


Beschreibung von deploy-ai-chatbot-arch.png folgt
Beschreibung der Abbildung deploy-ai-chatbot-arch.png

bereitstellen-ai-chatbot-arch.zip

Der Ablauf für Benutzer und Entwickler, die diese Architektur verwenden, ähnelt:

  1. Entwickler und Chatbot-Benutzer authentifizieren sich mit OCI Identity and Access Management.
  2. Benutzer greifen mit der Oracle Visual Builder-App dort auf den Chatbot zu, wo er eingebettet ist. Entwickler können die App auf der Homepage des Oracle Visual Builder-Service konfigurieren.
  3. Entwickler konfigurieren den Chatbot mit der Oracle Digital Assistant-Servicekonsole.
  4. Entwickler greifen mithilfe von APIs auf OCI Generative AI-LLMs zu.

Die Architektur umfasst folgende Komponenten:

  • Region

    Eine Oracle Cloud Infrastructure-Region ist ein lokalisierter geografischer Bereich, der mindestens ein Data Center enthält und Availability-Domains hostet. Regionen sind unabhängig von anderen Regionen, und große Entfernungen können über Länder oder Kontinente voneinander getrennt werden.

  • Identity and Access-Management

    Oracle Cloud Infrastructure Identity and Access Management (IAM) bietet Benutzerzugriffskontrolle für Oracle Cloud Infrastructure (OCI) und Oracle Cloud Applications. Mit der IAM-API und der Benutzeroberfläche können Sie Identitätsdomains und die darin enthaltenen Ressourcen verwalten. Jede OCI IAM-Identitätsdomain stellt eine eigenständige Identity and Access Management-Lösung oder eine andere Benutzerpopulation dar.

  • Oracle Visual Builder

    Oracle Visual Builder ist eine intuitive Entwicklungserfahrung auf einer Entwicklungs- und Hostingplattform, mit der Sie ansprechende responsive Anwendungen erstellen können. Mit dem Fokus auf Benutzerfreundlichkeit und einem visuellen Entwicklungsansatz können Sie auf einfache Weise Anwendungen erstellen, die in der sicheren und skalierbaren Cloud-Plattform von Oracle gehostet werden.

  • Digital Assistant

    Oracle Digital Assistant ist eine Plattform, mit der Sie digitale Assistenten für Ihre Benutzer erstellen und bereitstellen können. Mit Oracle Digital Assistant können Sie KI-gesteuerte Schnittstellen (oder Chatbots) für Geschäftsanwendungen über Text-, Chat- und Sprachschnittstellen erstellen. Jeder digitale Assistent verfügt über eine Sammlung von einem oder mehreren spezialisierten Skills, mit denen Benutzer eine Vielzahl von Aufgaben in Unterhaltungen in natürlicher Sprache ausführen können. Beispiel: Ein einzelner digitaler Assistent verfügt über Skills, die sich auf bestimmte Aufgabentypen konzentrieren, wie das Verfolgen von Bestand, das Weiterleiten von Stundennachweisen und das Erstellen von Spesenabrechnungen.

  • Generative KI

    Oracle Cloud Infrastructure Generative AI ist ein vollständig verwalteter OCI-Service, der eine Reihe hochmoderner, anpassbarer großer Sprachmodelle (LLMs) bereitstellt, die eine breite Palette an Anwendungsfällen für die Textgenerierung, -zusammenfassung, semantische Suche und mehr abdecken. Verwenden Sie den Playground, um die einsatzbereiten vortrainierten Modelle sofort zu nutzen oder eigene optimierten benutzerdefinierte Modelle basierend auf Ihren eigenen Daten auf dedizierten KI-Clustern zu erstellen und zu hosten.

Deploy

Um diese Architektur bereitzustellen, befolgen Sie die Anweisungen in dieser Liveübung:

ATOM-(AI Powered-)Chatbot bereitstellen

Hinweise

Berücksichtigen Sie beim Deployment dieses KI-gestützten Chatbots Folgendes:

  • Regionale Verfügbarkeit

    Oracle hostet seine OCI-Services in Regionen und Availability-Domains. Eine Region ist ein bestimmter geografischer Bereich. Eine Availability-Domain umfasst mindestens ein Data Center innerhalb dieser Region. KI-Services sind nicht immer in allen Regionen verfügbar. Weitere Informationen finden Sie unter Regionen mit generativer KI im Abschnitt Weitere Informationen.

  • Dokumentenverarbeitung

    Die in dieser Architektur verwendete Dokumentverarbeitungsfunktion ist für kleinere Dokumente gedacht. Lösungen zur Analyse größerer Dokumente finden Sie in der anderen LiveLabs im Abschnitt Weitere Informationen.

Mehr erfahren

Erfahren Sie mehr über die Bereitstellung eines KI-gestützten Chatbots.

Prüfen Sie die folgenden zusätzlichen Ressourcen:

Bestätigungen

  • Autoren: Luke Farley, Abhinav Jain
  • Mitwirkender: Kaushik Kundu