Oracle Cloud Infrastructure Generative AI basierend auf Cohere Large Language Model implementieren
Generative Oracle Cloud Infrastructure Generative AI (OCI Generative AI) ist ein vollständig verwalteter Service, der eine Reihe hochmoderner und anpassbarer großer Sprachmodelle (Large Language Models, LLMs) bereitstellt, die eine breite Palette an Anwendungsfällen für die Textgenerierung abdecken. Sie können den Spielplatz verwenden - eine Schnittstelle in der Konsole, mit der Sie die gehosteten voreingestellten und benutzerdefinierten Modelle erkunden können, ohne eine einzige Codezeile zu schreiben oder Ihre eigenen optimierten benutzerdefinierten Modelle basierend auf Ihren eigenen Daten auf dedizierten KI-Clustern zu erstellen und zu hosten.
- Generierung: Geben Sie Anweisungen an, um Text zu generieren oder Informationen aus Ihrem Text zu extrahieren.
- Zusammenfassung: Fassen Sie Text mit Format, Länge und Ton gemäß Ihren Anweisungen zusammen.
- Einbetten: Konvertieren Sie Text in Vektoreinbetten, die Sie in Anwendungen für semantische Suche, Textklassifizierung oder Text-Clustering verwenden können.
Architektur
Sie können den Spielplatz OCI Generative AI verwenden, um vortrainierte Modelle auszuprobieren, Ihre Prompts auszuführen, die Parameter anzupassen, Ihre Prompts zu aktualisieren und die Modelle erneut auszuführen, bis Sie mit den Ergebnissen zufrieden sind. Anschließend können Sie den Code aus der Konsole in Ihre Anwendungen kopieren.
Sie können auch eine Kopie eines vorgeschulten Modells erstellen, ein eigenes Trainings-Dataset hinzufügen und das Modell durch den OCI Generative AI-Service optimieren lassen. OCI Generative AI verwendet leistungsstarke dedizierte KI-Cluster, die speziell für die Optimierung ausgelegt sind. Diese Cluster gehören nur zu Ihrem Mandanten. Nach der Optimierung Ihres Modells erstellen wir einen Endpunkt für das benutzerdefinierte Modell und hosten es in einem dedizierten KI-Cluster, das speziell für das Hosting ausgelegt ist.
Vorteile der Erstellung eines LLM auf OCI
Generativer KI-Service: Oracle bietet native generative KI-Services in Zusammenarbeit mit Cohere, einer führenden KI-Plattform für Unternehmen, die mit einem erweiterten Sprachverständnis für die Erstellung der nächsten Generation von Unternehmensanwendungen ausgestattet ist. OCI Generative AI ist ein vollständig verwalteter Service, der über eine API verfügbar ist, um diese vielseitigen Sprachmodelle nahtlos in eine Vielzahl von Anwendungsfällen zu integrieren, einschließlich Schreibunterstützung, Zusammenfassung und Chat.
Dedizierte KI-Cluster: Bei dedizierten KI-Clustern handelt es sich um Compute-Ressourcen, die Sie für die Optimierung benutzerdefinierter Modelle oder für das Hosting von Endpunkten für benutzerdefinierte Modelle verwenden können. Die Cluster werden dediziert für Ihre Modelle bereitgestellt und nicht mit Benutzern in anderen Mandanten geteilt. Mit der benutzerdefinierten Modell-OCI Generative AI können Sie die Modelle mit Ihren eigenen Daten verfeinern.
Benutzerdefiniertes Modell: Mit OCI Generative AI können Sie die Modelle mit Ihren eigenen Daten verfeinern.
Hinweis:
Eine neue KI-Vektorähnlichkeitssuchfunktion ist in Oracle Database 23ai verfügbar.- OCI Object Storage für die Datenspeicherung.
- Oracle Cloud Infrastructure Data Science-Workspace zur Modellerstellung.
- OCI Generative AI mit GPUs für Compute.
- Oracle APEX Application Development-Tool für UI.
Das folgende Diagramm veranschaulicht diese Referenzarchitektur.
OCI-generativ-ai-llm-arch-oracle.zip
Die Architektur umfasst die folgenden Komponenten:
- Region
Eine Oracle Cloud Infrastructure-Region ist ein lokalisierter geografischer Bereich, der mindestens ein Data Center enthält, das als Availability-Domain bezeichnet wird. Regionen sind unabhängig von anderen Regionen, und große Entfernungen können sie trennen (über Länder oder sogar Kontinente).
- Virtuelles Cloud-Netzwerk (VCN) und Subnetze
Ein VCN ist ein anpassbares, benutzerdefiniertes Netzwerk, das Sie in einer Oracle Cloud Infrastructure-Region einrichten können. Wie traditionelle Data Center-Netzwerke erhalten Sie mit VCNs Kontrolle über Ihre Netzwerkumgebung. Ein VCN kann mehrere sich nicht überschneidende CIDR-Blöcke aufweisen, die Sie nach dem Erstellen des VCN ändern können. Sie können ein VCN in Subnetze segmentieren, die sich auf eine Region oder eine Availability-Domain beschränken. Jedes Subnetz besteht aus einem Bereich zusammenhängender Adressen, die sich nicht mit anderen Subnetzen im VCN überschneiden. Sie können die Größe eines Subnetzes nach der Erstellung ändern. Ein Subnetz kann öffentlich oder privat sein.
- Object Storage
Der Objektspeicher bietet schnellen Zugriff auf große Mengen an strukturierten und unstrukturierten Daten eines beliebigen Inhaltstyps, einschließlich Datenbankbackups, Analysedaten und umfangreichen Inhalten, wie Bildern und Videos. Sie können Daten sicher und geschützt speichern und dann direkt aus dem Internet oder aus der Cloud-Plattform abrufen. Sie können den Speicher skalieren, ohne dass die Performance oder Servicezuverlässigkeit beeinträchtigt wird. Verwenden Sie Standardspeicher für "Hot Storage", auf den Sie schnell, sofort und häufig zugreifen müssen. Verwenden Sie Archivspeicher für "Cold Storage", den Sie über lange Zeiträume beibehalten möchten und auf den Sie nur selten zugreifen.
- Data Science
Oracle Cloud Infrastructure Data Science ist eine vollständig verwaltete, serverlose Plattform, mit der Datenanalyseteams ML-Modelle in Oracle Cloud Infrastructure (OCI) erstellen, trainieren und verwalten können. Sie kann problemlos in andere OCI-Services wie Oracle Autonomous Data Warehouse, Oracle Cloud Infrastructure Object Storage und mehr integriert werden. Sie können hochwertige Modelle für maschinelles Lernen erstellen und bewerten, die Geschäftsflexibilität erhöhen, indem Sie unternehmensvertrauenswürdige Daten schnell einsetzen. Außerdem können Sie datengesteuerte Geschäftsziele mit einer einfacheren Bereitstellung von ML-Modellen unterstützen.
- Oracle Database 23ai (AI-Vektorsuche)
Oracle Database 23ai bietet die umfassendste und einfachste konvergierte Datenbank für Entwickler, die neue Microservice-, Diagramm-, Dokument- und relationale Anwendungen erstellen möchten.
Oracle hat Oracle Database 23ai semantische Suchfunktionen mit KI-Vektoren hinzugefügt. Die Sammlung von Features, die AI Vector Search genannt wird, umfasst einen neuen Vektordatentyp, Vektorindizes und Vektorsuch-SQL-Operatoren, mit denen Oracle Database den semantischen Inhalt von Dokumenten, Bildern und anderen unstrukturierten Daten als Vektoren speichern und diese verwenden kann, um schnelle Ähnlichkeitsabfragen auszuführen. Weitere Informationen finden Sie unter dem Link Blog im Abschnitt Weitere Informationen.