Ein Projekt verwenden
Verwenden Sie die Codebeispiele des Projekts, um die OCI OpenAI-kompatible API aufzurufen oder eine Sandbox zu erstellen.
- Wählen Sie auf der Listenseite Projekte das gewünschte Projekt aus. Wenn Sie Hilfe beim Suchen der Listenseite benötigen, finden Sie weitere Informationen unter Projekte auflisten.
-
Wählen Sie die Registerkarte Verwendung.
Wählen Sie für die Modellinferenz eine der beiden Authentifizierungsoptionen aus. Ersetzen Sie die Platzhalter in den Beispielen durch die OCID und die Zugangsdaten Ihres Projekts, und verwenden Sie einen Endpunkt und ein Modell, die in Ihrer Region verfügbar sind. Sandbox-API-Aufrufe verwenden die OCI-IAM-Authentifizierung separat.
-
Wenn Sie mit der Authentifizierung des API-Schlüssels für generative KI auf die Modelle zugreifen, kopieren Sie den Code für Option eins.
Beispielcode:
from openai import OpenAI client = OpenAI( base_url="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/openai/v1", api_key="<your-api-key>", # replace with your Generative AI API Key project="<project-ocid>", ) response = client.responses.create( model="openai.gpt-oss-120b", input="What is 2x2?" ) print(response.output_text) # should output a string like "2 x 2 = **4**." -
Wenn Sie mit IAM-Authentifizierung auf die Modelle zugreifen möchten, kopieren Sie den Code für Option zwei.
Beispielcode:
from openai import OpenAI from oci_genai_auth import OciSessionAuth import httpx import os profile = os.environ.get("OCI_PROFILE", "DEFAULT") client = OpenAI( base_url="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/openai/v1", api_key="not-used", project="<project-ocid>", http_client=httpx.Client(auth=OciSessionAuth(profile_name=profile)), ) response = client.responses.create( model="openai.gpt-oss-120b", input="What is 2x2?" ) print(response.output_text) - (Optional) Um eine Sandbox zu erstellen, kopieren Sie den Befehl unter Sandbox aus CLI oder SDK erstellen.
Aktivieren Sie Sandboxes für das Projekt, und warten Sie, bis das Projekt aktiv wird, bevor Sie den Befehl ausführen. Setzen Sie
profile_name,regionundproject_idauf Ihre Werte:oci --profile "$profile_name" --auth security_token --region "$region" \ generative-ai-sandbox sandbox create \ --project-id "$project_id" \ --display-name my-sandbox \ --runtime python-3.11 \ --shape SMALL \ --expiration-duration PT5MIn diesem Beispiel wird eine fünfminütige Sandbox angefordert. Voraussetzungen und den vollständigen Workflow finden Sie unter Sandbox erstellen und verwenden.