Utilisation d'un projet
Utilisez les exemples de code du projet pour appeler l'API compatible OCI OpenAI ou créer un bac à sable.
- Dans la page de liste Projets, sélectionnez le projet à utiliser. Si vous avez besoin d'aide pour trouver la page de liste, voir Liste des projets.
-
Sélectionnez l'onglet Comment utiliser.
Pour l'inférence de modèle, sélectionnez l'une des deux options d'authentification. Remplacez les paramètres fictifs dans les exemples par l'OCID et les données d'identification de votre projet, et utilisez un point d'extrémité et un modèle disponibles dans votre région. Les appels d'API de bac à sable utilisent l'authentification OCI IAM séparément.
-
Si vous allez accéder aux modèles à l'aide de l'authentification par clé d'API du service d'intelligence artificielle générative, copiez le code pour l'option un.
Exemple de code :
from openai import OpenAI client = OpenAI( base_url="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/openai/v1", api_key="<your-api-key>", # replace with your Generative AI API Key project="<project-ocid>", ) response = client.responses.create( model="openai.gpt-oss-120b", input="What is 2x2?" ) print(response.output_text) # should output a string like "2 x 2 = **4**." -
Si vous allez accéder aux modèles à l'aide de l'authentification IAM, copiez le code pour l'option deux.
Exemple de code :
from openai import OpenAI from oci_genai_auth import OciSessionAuth import httpx import os profile = os.environ.get("OCI_PROFILE", "DEFAULT") client = OpenAI( base_url="https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/openai/v1", api_key="not-used", project="<project-ocid>", http_client=httpx.Client(auth=OciSessionAuth(profile_name=profile)), ) response = client.responses.create( model="openai.gpt-oss-120b", input="What is 2x2?" ) print(response.output_text) - (Facultatif) Pour créer un bac à sable, copiez la commande sous Créer un bac à sable à partir de l'interface de ligne de commande ou de la trousse SDK.
Activez les bacs à sable pour le projet et attendez que le projet devienne actif avant d'exécuter la commande. Réglez
profile_name,regionetproject_idà vos valeurs :oci --profile "$profile_name" --auth security_token --region "$region" \ generative-ai-sandbox sandbox create \ --project-id "$project_id" \ --display-name my-sandbox \ --runtime python-3.11 \ --shape SMALL \ --expiration-duration PT5MCet exemple demande un bac à sable de cinq minutes. Voir Création et utilisation d'un bac à sable pour les préalables et le flux de travail complet.