Uso de un proyecto

Utilice los ejemplos de código del proyecto para llamar a la API compatible con OpenAI de OCI o crear un sandbox.

  1. En la página de lista Proyectos, seleccione el proyecto que desea utilizar. Si necesita ayuda para encontrar la página de lista, consulte Lista de proyectos.
  2. Seleccione el separador Cómo utilizar.
    Para la inferencia de modelo, seleccione una de las dos opciones de autenticación. Sustituya los marcadores de posición de los ejemplos por el OCID y las credenciales del proyecto, y utilice un punto final y un modelo disponibles en la región. Las llamadas de API de sandbox utilizan la autenticación de OCI IAM por separado.
  3. Si va a acceder a los modelos mediante la autenticación de clave de API de IA generativa, copie el código de la opción uno.

    Código de ejemplo:

    from openai import OpenAI
    
    client = OpenAI(
        base_url="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/openai/v1",
        api_key="<your-api-key>", # replace with your Generative AI API Key
        project="<project-ocid>",
    )
    
    response = client.responses.create(
        model="openai.gpt-oss-120b",
        input="What is 2x2?"
    )
    
    print(response.output_text) # should output a string like "2 x 2 = **4**."
    
  4. Si va a acceder a los modelos con autenticación de IAM, copie el código de la opción dos.

    Código de ejemplo:

    from openai import OpenAI
    from oci_genai_auth import OciSessionAuth
    import httpx
    import os
    
    profile = os.environ.get("OCI_PROFILE", "DEFAULT")
    
    client = OpenAI(
        base_url="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/openai/v1",
        api_key="not-used",
        project="<project-ocid>",
        http_client=httpx.Client(auth=OciSessionAuth(profile_name=profile)),
    )
    
    response = client.responses.create(
        model="openai.gpt-oss-120b",
        input="What is 2x2?"
    )
    
    print(response.output_text)
    
  5. (Opcional) Para crear un sandbox, copie el comando en Crear sandbox desde la CLI o el SDK.

    Active los sandboxes para el proyecto y espere a que el proyecto pase a estar activo antes de ejecutar el comando. Defina profile_name, region y project_id en los valores:

    oci --profile "$profile_name" --auth security_token --region "$region" \
      generative-ai-sandbox sandbox create \
      --project-id "$project_id" \
      --display-name my-sandbox \
      --runtime python-3.11 \
      --shape SMALL \
      --expiration-duration PT5M

    En este ejemplo se solicita un sandbox de cinco minutos. Consulte Creación y uso de un sandbox para conocer los requisitos y el flujo de trabajo completo.