Utilizzo di un progetto

Utilizzare gli esempi di codice del progetto per chiamare l'API compatibile con OCI OpenAI o creare una sandbox.

Nella pagina di elenco Progetti selezionare il progetto che si desidera utilizzare. Per assistenza nella ricerca della pagina elenco, vedere Elenca progetti.
Selezionare la scheda How to use.
Per l'inferenza modello, selezionare una delle due opzioni di autenticazione. Sostituire i segnaposto negli esempi con l'OCID e le credenziali del progetto e utilizzare un endpoint e un modello disponibili nell'area. Le chiamate API sandbox utilizzano l'autenticazione IAM OCI separatamente.

Se si accede AI modelli utilizzando l'autenticazione della chiave API AI generativa, copiare il codice per l'opzione uno.

Codice esempio:

from openai import OpenAI

client = OpenAI(
    base_url="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/openai/v1",
    api_key="<your-api-key>", # replace with your Generative AI API Key
    project="<project-ocid>",
)

response = client.responses.create(
    model="openai.gpt-oss-120b",
    input="What is 2x2?"
)

print(response.output_text) # should output a string like "2 x 2 = **4**."

Se si accede ai modelli utilizzando l'autenticazione IAM, copiare il codice per l'opzione due.

Codice esempio:

from openai import OpenAI
from oci_genai_auth import OciSessionAuth
import httpx
import os

profile = os.environ.get("OCI_PROFILE", "DEFAULT")

client = OpenAI(
    base_url="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/openai/v1",
    api_key="not-used",
    project="<project-ocid>",
    http_client=httpx.Client(auth=OciSessionAuth(profile_name=profile)),
)

response = client.responses.create(
    model="openai.gpt-oss-120b",
    input="What is 2x2?"
)

print(response.output_text)

(Facoltativo) Per creare una sandbox, copiare il comando in Crea sandbox da CLI o SDK.
Abilitare le sandbox per il progetto e attendere che il progetto diventi Attivo prima di eseguire il comando. Impostare i valori profile_name, region e project_id:
```
oci --profile "$profile_name" --auth security_token --region "$region" \
  generative-ai-sandbox sandbox create \
  --project-id "$project_id" \
  --display-name my-sandbox \
  --runtime python-3.11 \
  --shape SMALL \
  --expiration-duration PT5M
```
In questo esempio viene richiesta una sandbox di cinque minuti. Vedere Creazione e utilizzo di una sandbox per conoscere i prerequisiti e il workflow completo.

Documentazione dell'infrastruttura Oracle Cloud

Utilizzo di un progetto