Überblick über den OCI Generative AI-Service

Generative KI ist ein vollständig verwalteter Oracle Cloud Infrastructure-Service, der eine Reihe hochmoderner, anpassbarer großer Sprachmodelle (Large Language Models, LLMs) bereitstellt, die eine breite Palette von Anwendungsfällen abdecken, darunter Chat, Textgenerierung, Zusammenfassung und Erstellung von Texteinbettungen.

Mit dem Playground, der API oder der CLI können Sie die gebrauchsfertigen vortrainierten Modelle ausprobieren oder Ihre eigenen optimierten benutzerdefinierten Modelle basierend auf Ihren eigenen Daten auf dedizierten KI-Clustern erstellen und hosten.

Der OCI Generative AI-Service umfasst die folgenden Basismodelle für Chat-, Ranglisten- und Texteinbettungen.

Chat: Stellen Sie Fragen und erhalten Sie Gesprächsantworten über einen KI-Chatbot.

Erneut: Geben Sie eine Abfrage und eine Liste von Texten ein und erhalten Sie ein geordnetes Array mit jedem Text, dem eine Relevanzbewertung zugewiesen ist. Die Relevanzbewertung ist, wie das Modell die Dokumente einstuft, d.h. wie gut jeder Text mit der Abfrage übereinstimmt.

Einbettung: Konvertieren Sie Text in Vektoreinbettungen, die Sie in Anwendungen für semantische Suche, Empfehlungssysteme, Textklassifizierung oder Text-Clustering verwenden können.

Vortrainierte Grundlagenmodelle verwenden

Probieren Sie die vortrainierten Grundmodelle zunächst im Playground aus. Führen Sie Ihre Prompts aus, passen Sie die Parameter an, aktualisieren Sie Ihre Prompts, und führen Sie die Modelle erneut aus, bis Sie mit den Ergebnissen zufrieden sind. Rufen Sie dann den Code aus der Konsole ab, und kopieren Sie ihn in Ihre Anwendungen.

Benutzerworkflowoptionen für die Verwendung der einsatzbereiten vortrainierten Modelle des OCI Generative AI-Service.

Vortrainierte Modelle optimieren

Sie können eine Kopie eines vortrainierten Basismodells erstellen, ein eigenes Trainings-Dataset hinzufügen und das Modell durch den OCI Generative AI-Service optimieren lassen. OCI Generative AI verwendet dedizierte KI-Cluster, die speziell für die Optimierung ausgelegt sind. Diese Cluster gehören nur zu Ihrem Mandanten. Nachdem das Modell optimiert wurde, erstellen Sie einen Endpunkt für das benutzerdefinierte Modell und hosten es in einem dedizierten KI-Cluster, das speziell für das Hosting ausgelegt ist. Wenn Sie das Hostingcluster erstellen, wählen Sie das richtige vortrainierte Modell aus, von dem das optimierte Modell abgeleitet wird.

Benutzerworkflowoptionen für die Verwendung des OCI Generative AI-Service zum Optimieren eines vortrainierten Modells und zum Hosten des optimierten Modells über einen Endpunkt.

Anwendungsfälle

Verwenden Sie den OCI Generative AI-Service für die folgenden Anwendungsfälle.

Textgenerierung

Verwenden Sie die vortrainierten Chatmodelle oder Textgenerierungsmodelle, um Text für jeden Zweck zu erstellen. Beispiel:

Vorstellung eines neuen Produkts
Slogan für eine Marketingkampagne
Vertriebs-E-Mail an einen Kunden
Social-Media-Post
Stellenbeschreibung
Titel für einen Artikel

Unterhaltung: Sie können Fragen in natürlicher Sprache stellen und optional Text wie Dokumente, E-Mails und Produktbewertungen an das LLM und das LLM weiterleiten.

Datenextraktion

Extrahieren Sie bestimmte Daten aus Text. Beispiel:

Extrahieren Sie Bewerberdaten aus einer im Freitextformat verfassten Bewerbung.
Extrahieren Sie Daten oder Summen aus einem Vertrag.
Extrahieren Sie Insights oder Trends aus Datentabellen.

Zusammenfassung

Generieren Sie Kurzübersichten für Dokumente, die zu lang zum Lesen sind, oder fassen Sie beliebige Texttypen zusammen. Beispiel:

Dokumente
Verträge
E-Mails
Artikel
Blogposts
Produktbewertungen
Social-Media-Posts

Klassifizierung

Ordnen Sie Text in vordefinierte Kategorien ein. Beispiel:

Klassifizieren Sie eine Liste mit Supporttickets nach der Abteilung, die sie bearbeiten soll.
Klassifizieren Sie eine Liste mit Unternehmensbereichen und Firmennamen nach ihren jeweiligen Unternehmensbereichen.

Stilwechsel

Ändern Sie den Textstil oder -ton. Beispiel:

Schreiben Sie einen beliebigen Text in einem anderen Stil, Format (Liste oder Absätze) oder Ton um.
Formulieren Sie den Text um.
Schlagen Sie grammatische Verbesserungen vor.

Semantische Ähnlichkeit

Bewerten Sie mehrere Eingaben dahingehend, wie ähnlich ihre Bedeutung ist. Beispiel:

Bewerten Sie eine Liste von Fragen, die an ein Supportsystem gesendet wurden, um die treffendste Antwort auf ähnliche, bereits gestellte Fragen zu extrahieren, wenn eine neue Frage eingeht.
Ersetzen Sie stichwortbasierte Suchen durch semantische Suchen, um die Relevanz der Suchergebnisse zu verbessern.

Regionen mit OCI Generative AI

Oracle hostet seine OCI-Services in Regionen und Availability-Domains. Eine Region ist ein bestimmter geografischer Bereich. Eine Availability-Domain umfasst mindestens ein Data Center innerhalb dieser Region. OCI Generative AI wird in den folgenden Regionen gehostet:

Wichtig

Einige Regionen bieten nicht alle Modelle an. In der Region für jedes vortrainierte Modell erfahren Sie, welche Modelle in einer Region in Ihrer Nähe verfügbar sind.


Region Name	Standort	Regions-ID	Regionsschlüssel
Brazil East (Sao Paulo)	Sao Paulo	`sa-saopaulo-1`	`GRU`
Deutschland Mitte (Frankfurt)	Frankfurt	`eu-frankfurt-1`	`FRA`
Japan Central (Osaka)	Osaka	`ap-osaka-1`	`KIX`
UAE East (Dubai)	Dubai	`me-dubai-1`	`DXB`
UK South (London)	London	`uk-london-1`	`LHR`
US-amerikanischer Midwest	Chicago	`us-chicago-1`	`ORD`

Unter Regionen und Availability-Domains finden Sie eine vollständige Liste der verfügbaren OCI-Regionen sowie zugehörige Standorte, Regions-IDs, Regionsschlüssel und Availability-Domains.

Services, die in den generativen KI-Service eintreten

Derzeit wird der generative KI-Service von Oracle Cloud Infrastructure (OCI) nicht in jeder kommerziellen OCI-Region angeboten. In der Spalte unten mit dem Titel "Zielregion" finden Sie eine Liste der kommerziellen OCI-Regionen, die den OCI Generative AI-Service anbieten.

Es gibt OCI-Services, die (in den "Servicebeschreibungen für Oracle PaaS und IaaS Universal Credits") dokumentieren, dass sie Anrufe in den OCI Generative AI Service tätigen. Wenn bei einem bestimmten Aufruf des OCI Generative AI-Service die aufrufende Region und die Zielregion nicht identisch sind, wird ein regionsübergreifender Aufruf durchgeführt.


Bereich	Regionen aufrufen: OCI-Regionen, aus denen (regionübergreifende) Aufrufe an den OCI Generative AI-Service erfolgen können	Zielbereich: OCI-Region mit OCI Generative AI Service
Brasilien	`GRU`, `VCP`	`GRU`
EU	`AMS`, `MRS`, `LIN`, `ARN`, `CDG`, `MAD`, `ZRH`, `FRA`	`FRA`
Japan	`KIX`, `NRT`	`KIX`
VAE	`DXB`	`DXB`
UK	`CWL`, `LHR`	`LHR`
USA	`PHX`, `IAD`, `SJC`, `ORD`	`ORD`

Auf generative KI in der Konsole zugreifen

Melden Sie sich mit einem unterstützten Browser in der Konsole an.
Wählen Sie in der Navigationsleiste der Konsole eine Region mit generativer KI aus. Beispiel: US Midwest (Chicago) oder UK South (London). Siehe Welche Modelle in Ihrer Region angeboten werden.
Öffnen Sie das Navigationsmenü , und wählen Sie Analysen und KI aus. Wählen Sie unter KI-Services die Option Generative KI aus.