OCI OpenAI-Integration

Das Package OCI OpenAI ist eine Python-Library, die vom OCI Generative AI-Team entwickelt und verwaltet wird. Dieses Package optimiert die Integration zwischen dem Python-SDK OpenAI und dem OCI Generative AI-Service. Mit der integrierten Authentifizierung und Autorisierung können Sie mit OCI-Zugangsdaten eine sichere Verbindung zum Generative AI-Service herstellen.

Wichtige Vorteile

Dieses Package vereinfacht die Integration zwischen dem Python-SDK OpenAI und dem OCI Generative AI-Service, indem eine OCI-Authentifizierungsschicht auf dem OpenAI-SDK erstellt wird, sodass Sie die OCI-Authentifizierung mit OpenAI-SDKs verwenden können.
Funktioniert mit einer Teilmenge von OpenAI-SDKs, sodass Entwickler, die mit der OpenAI-API vertraut sind, schneller und mit weniger Onboardingaufgaben eine Verbindung zu OCI Generative AI-Modellen herstellen können.

Installation und Beispiele

Installieren Sie das Python-Package OCI OpenAI mit dem folgenden Befehl:

pip install oci-openai

Anweisungen und Beispiele finden Sie in den folgenden Ressourcen:

Unterstützte OpenAI SDKs

Das OCI OpenAI-Package unterstützt die Python-SDKs OpenAI für die folgenden APIs:

Wichtig

Das Package OCI OpenAI fügt einen eigenen Authentifizierungslayer über dem SDK OpenAI hinzu. Nur die oben aufgeführten SDKs sind mit diesem Package kompatibel. Die Verwendung anderer OpenAI-SDKs führt zu Fehlern (z.B. eine 404). Prüfen Sie OCI OpenAI auf GitHub auf Arbeitsbeispiele.

Unterstützte Models

Das Package OCI OpenAI unterstützt nur die folgenden Modelle, die in OCI Generative AI gehostet werden. Prüfen Sie für jedes Modell, ob es im On-Demand- oder dedizierten Modus angeboten wird. Die unterstützten Regionen für jedes Modell finden Sie unter Unterstützte Regionen.

Modelle für Chatabschlüsse-API

Modell für Antwort-API

Die xAI-Plattform für OCI Generative AI

Wichtig

Externe Aufrufe

Die xAI Grok-Modelle werden in einem OCI-Data Center in einem Mandanten gehostet, der für xAI bereitgestellt wird. Die xAI Grok-Modelle, auf die über den OCI Generative AI-Service zugegriffen werden kann, werden von xAI verwaltet.

Unterstützte Regionen

OCI OpenAI Regionen

Unterstützte OCI-Regionen für das Package OCI OpenAI sind auf Folgendes beschränkt:

Germany Central (Frankfurt)
India South (Hyderabad)
Japan Central (Osaka)
US East (Ashburn)
US Midwest (Chicago)
US West (Phoenix)

Um die verwendbaren Regionen eines Modells für das OCI OpenAI-Package zu bestätigen, führen Sie die folgenden Aufgaben aus.

Öffnen Sie die Karte des Modells in der Dokumentation zur generativen KI:
- Meta-Lama-Modelle
- Die xAI-Plattform für OCI Generative AI
Beachten Sie die für dieses Modell aufgeführten Regionen.
Wählen Sie eine Region für das Modell aus, die sowohl in den verfügbaren Regionen des Modells als auch in den vorherigen sechs OCI OpenAI-Regionen angezeigt wird.
Prüfen Sie, ob das Modell in dem von Ihnen benötigten Modus verfügbar ist (On-Demand oder dediziert).

Für den Zugriff auf Modelle im dedizierten Modus werden öffentliche und private Endpunkte unterstützt.