Uso de un proyecto
Utilice los ejemplos de código del proyecto para llamar a la API compatible con OpenAI de OCI o crear un sandbox.
- En la página de lista Proyectos, seleccione el proyecto que desea utilizar. Si necesita ayuda para encontrar la página de lista, consulte Lista de proyectos.
-
Seleccione el separador Cómo utilizar.
Para la inferencia de modelo, seleccione una de las dos opciones de autenticación. Sustituya los marcadores de posición de los ejemplos por el OCID y las credenciales del proyecto, y utilice un punto final y un modelo disponibles en la región. Las llamadas de API de sandbox utilizan la autenticación de OCI IAM por separado.
-
Si va a acceder a los modelos mediante la autenticación de clave de API de IA generativa, copie el código de la opción uno.
Código de ejemplo:
from openai import OpenAI client = OpenAI( base_url="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/openai/v1", api_key="<your-api-key>", # replace with your Generative AI API Key project="<project-ocid>", ) response = client.responses.create( model="openai.gpt-oss-120b", input="What is 2x2?" ) print(response.output_text) # should output a string like "2 x 2 = **4**." -
Si va a acceder a los modelos con autenticación de IAM, copie el código de la opción dos.
Código de ejemplo:
from openai import OpenAI from oci_genai_auth import OciSessionAuth import httpx import os profile = os.environ.get("OCI_PROFILE", "DEFAULT") client = OpenAI( base_url="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/openai/v1", api_key="not-used", project="<project-ocid>", http_client=httpx.Client(auth=OciSessionAuth(profile_name=profile)), ) response = client.responses.create( model="openai.gpt-oss-120b", input="What is 2x2?" ) print(response.output_text) - (Opcional) Para crear un sandbox, copie el comando en Crear sandbox desde la CLI o el SDK.
Active los sandboxes para el proyecto y espere a que el proyecto pase a estar activo antes de ejecutar el comando. Defina
profile_name,regionyproject_iden los valores:oci --profile "$profile_name" --auth security_token --region "$region" \ generative-ai-sandbox sandbox create \ --project-id "$project_id" \ --display-name my-sandbox \ --runtime python-3.11 \ --shape SMALL \ --expiration-duration PT5MEn este ejemplo se solicita un sandbox de cinco minutos. Consulte Creación y uso de un sandbox para conocer los requisitos y el flujo de trabajo completo.