Ein Projekt verwenden

Verwenden Sie die Codebeispiele des Projekts, um die OCI OpenAI-kompatible API aufzurufen oder eine Sandbox zu erstellen.

  1. Wählen Sie auf der Listenseite Projekte das gewünschte Projekt aus. Wenn Sie Hilfe beim Suchen der Listenseite benötigen, finden Sie weitere Informationen unter Projekte auflisten.
  2. Wählen Sie die Registerkarte Verwendung.
    Wählen Sie für die Modellinferenz eine der beiden Authentifizierungsoptionen aus. Ersetzen Sie die Platzhalter in den Beispielen durch die OCID und die Zugangsdaten Ihres Projekts, und verwenden Sie einen Endpunkt und ein Modell, die in Ihrer Region verfügbar sind. Sandbox-API-Aufrufe verwenden die OCI-IAM-Authentifizierung separat.
  3. Wenn Sie mit der Authentifizierung des API-Schlüssels für generative KI auf die Modelle zugreifen, kopieren Sie den Code für Option eins.

    Beispielcode:

    from openai import OpenAI
    
    client = OpenAI(
        base_url="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/openai/v1",
        api_key="<your-api-key>", # replace with your Generative AI API Key
        project="<project-ocid>",
    )
    
    response = client.responses.create(
        model="openai.gpt-oss-120b",
        input="What is 2x2?"
    )
    
    print(response.output_text) # should output a string like "2 x 2 = **4**."
    
  4. Wenn Sie mit IAM-Authentifizierung auf die Modelle zugreifen möchten, kopieren Sie den Code für Option zwei.

    Beispielcode:

    from openai import OpenAI
    from oci_genai_auth import OciSessionAuth
    import httpx
    import os
    
    profile = os.environ.get("OCI_PROFILE", "DEFAULT")
    
    client = OpenAI(
        base_url="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/openai/v1",
        api_key="not-used",
        project="<project-ocid>",
        http_client=httpx.Client(auth=OciSessionAuth(profile_name=profile)),
    )
    
    response = client.responses.create(
        model="openai.gpt-oss-120b",
        input="What is 2x2?"
    )
    
    print(response.output_text)
    
  5. (Optional) Um eine Sandbox zu erstellen, kopieren Sie den Befehl unter Sandbox aus CLI oder SDK erstellen.

    Aktivieren Sie Sandboxes für das Projekt, und warten Sie, bis das Projekt aktiv wird, bevor Sie den Befehl ausführen. Setzen Sie profile_name, region und project_id auf Ihre Werte:

    oci --profile "$profile_name" --auth security_token --region "$region" \
      generative-ai-sandbox sandbox create \
      --project-id "$project_id" \
      --display-name my-sandbox \
      --runtime python-3.11 \
      --shape SMALL \
      --expiration-duration PT5M

    In diesem Beispiel wird eine fünfminütige Sandbox angefordert. Voraussetzungen und den vollständigen Workflow finden Sie unter Sandbox erstellen und verwenden.