Traitement des données dans le service d'intelligence artificielle générative

Modèles importés

Mes demandes d'inférence sont-elles envoyées à Hugging Face?

Vos demandes d'inférence sont exécutées sur la grappe dédiée à l'IA qui héberge votre modèle importé. L'importation d'un modèle à partir du visage Hugging extrait les artefacts de modèle pour le déploiement. Il n'envoie pas de demandes d'inférence à Hugging Face. Voir Modèles compatibles pour l'importation.

Mes invites et réponses sont-elles conservées ou utilisées pour l'entraînement de modèle?

Le service ne conserve pas vos invites et réponses dans le cadre d'une inférence de modèle. Les fournisseurs de modèle ne les utilisent pas à leurs propres fins d'entraînement de modèle, d'amélioration de modèle ou à d'autres fins indépendantes.

Vous pouvez choisir d'enregistrer des réponses, des conversations, des fichiers ou de la mémoire pour votre application au moyen des fonctions OCI. Pour savoir comment gérer ce contenu, voir Réponses stockées, conversations, fichiers et mémoire.

Dois-je fournir des données d'entraînement lorsque j'importe un modèle?

Le flux de travail d'importation nécessite des fichiers de modèle, tels que des poids, des fichiers de configuration et des fichiers de tokenizer. Il ne nécessite pas le jeu de données utilisé pour entraîner le modèle.

Vous pouvez importer un modèle compatible que vous avez affiné en dehors du service. OCI Generative AI n'ajuste pas les modèles importés avec précision. Voir Importation de modèles affinés.

Puis-je supprimer mon modèle importé?

Vous pouvez supprimer la ressource de modèle importée. Vous gérez cette ressource séparément des demandes d'inférence individuelles. Voir Suppression d'un modèle importé.

Modèles préentraînés et affinés sur des grappes d'IA dédiées

Mes invites sont-elles envoyées à un fournisseur de modèle externe?

Vos invites sont traitées par le modèle sur votre grappe dédiée à l'IA et ne sont pas envoyées à un fournisseur externe pour inférence. La grappe est dédiée à vos modèles et n'est pas partagée avec d'autres clients. Voir Grappes dédiées à l'IA.

Mes invites et réponses sont-elles conservées ou utilisées pour l'entraînement de modèle?

Le service ne conserve pas vos invites et réponses dans le cadre d'une inférence de modèle. Les fournisseurs de modèle ne les utilisent pas à leurs propres fins d'entraînement de modèle, d'amélioration de modèle ou à d'autres fins indépendantes.

Vous pouvez choisir d'enregistrer des réponses, des conversations, des fichiers ou de la mémoire pour votre application au moyen des fonctions OCI. Pour savoir comment gérer ce contenu, voir Réponses stockées, conversations, fichiers et mémoire.

Quel modèle puis-je ajuster dans le service d'intelligence artificielle générative pour OCI?

Actuellement, le seul modèle disponible pour le réglage de précision dans le service est le modèle Meta Llama 3.3 (70B) standard (meta.llama-3.3-70b-instruct). Le réglage fin est disponible dans les régions commerciales (OC1) prises en charge. La variante dynamique FP8 n'est pas disponible pour le réglage de précision.

Le service conserve-t-il mes données d'entraînement après le réglage fin?

Le service supprime les données d'entraînement de la grappe de réglage de précision lorsque le travail d'entraînement est terminé. Votre jeu de données source reste dans le seau de stockage d'objets, où vous le gérez. Vous gérez également le modèle personnalisé résultant en tant que ressource distincte.

Mes données d'entraînement ou mon modèle personnalisé sont-ils partagés avec les fournisseurs de modèle?

Le service ne partage pas vos données d'entraînement de réglage fin ni votre modèle personnalisé de réglage fin avec des fournisseurs de modèles tiers. Il utilise vos données d'entraînement uniquement pour créer votre modèle personnalisé et ne l'utilise pas pour améliorer les modèles généraux d'IA générative pour OCI. Voir Ajustement de précision des modèles de base du service d'intelligence artificielle générative.

Mes données de formation sont-elles chiffrées?

Vos données d'entraînement de réglage fin sont chiffrées au repos et en transit. Pour plus de détails sur le chiffrement et la gestion des clés, voir Chiffrement.

Modèles sur demande

Comment savoir si mon modèle appelle un fournisseur externe?

Recherchez votre modèle et la région OCI qui répond à votre demande dans Modèles par région. Si vous utilisez un profil d'acheminement, vérifiez ses régions OCI cibles. Les notes Appels externes identifient les modèles, notamment Google Gemini et xAI Grok, dont les demandes sont envoyées à un fournisseur externe pour traitement.

Google Gemini et xAI Grok

Mes invites sont-elles envoyées à Google ou xAI?

Lorsque vous appelez ces modèles au moyen du service d'intelligence artificielle générative pour OCI, le service envoie le contenu de votre demande à Google ou xAI pour traitement sur la plate-forme du fournisseur et vous retourne la réponse générée.

Est-ce que Google ou xAI peuvent conserver mes invites et réponses ou les utiliser pour la formation de modèles?

Oracle a des ententes contractuelles sur la conservation de données zéro avec Google et xAI pour les modèles accessibles au moyen de l'IA générative d'OCI. En vertu de ces ententes, les fournisseurs n'utilisent les invites et les réponses des clients que pour traiter les demandes et fournir les réponses. Ils ne conservent pas ce contenu après avoir traité les demandes ou l'utilisent à des fins d'entraînement de modèle, d'amélioration de modèle ou à d'autres fins indépendantes.

Le service d'intelligence artificielle générative pour OCI conserve-t-il mes invites et mes réponses?

Le service ne conserve pas vos invites et réponses dans le cadre d'une inférence de modèle.

Vous pouvez choisir d'enregistrer des réponses, des conversations, des fichiers ou de la mémoire pour votre application au moyen des fonctions OCI. Pour savoir comment gérer ce contenu, voir Réponses stockées, conversations, fichiers et mémoire.

Où Google et xAI traitent-ils mes demandes?

L'emplacement de traitement dépend du modèle et de la région OCI qui sert votre demande. Si vous utilisez un profil d'acheminement, utilisez les notes pour la région OCI cible qui sert la demande. Cela peut différer de la région dans laquelle vous créez ou appelez le profil. Voir les emplacements de routage et de traitement propres au modèle dans Notes pour les appels externes.

Cohere, Meta Llama et OpenAI gpt-oss

Mes demandes d'inférence sont-elles envoyées à un fournisseur de modèle externe?

Les modèles Cohere, Meta Llama et OpenAI gpt-oss offerts en mode sur demande sont hébergés par l'IA générative d'OCI. Le service traite vos demandes sans les envoyer à un fournisseur externe pour inférence. Pour les modèles et les régions pris en charge, voir Modèles par région.

Mes invites et réponses sont-elles conservées ou utilisées pour l'entraînement de modèle?

Le service ne conserve pas vos invites et réponses dans le cadre d'une inférence de modèle. Les fournisseurs de modèle ne les utilisent pas à leurs propres fins d'entraînement de modèle, d'amélioration de modèle ou à d'autres fins indépendantes.

Vous pouvez choisir d'enregistrer des réponses, des conversations, des fichiers ou de la mémoire pour votre application au moyen des fonctions OCI. Pour savoir comment gérer ce contenu, voir Réponses stockées, conversations, fichiers et mémoire.

Modèles sur demande au moyen de profils d'acheminement

Quelles règles de traitement des données s'appliquent lorsque j'appelle un modèle sur demande à partir d'une région sans traitement de modèle local?

Les règles de traitement des données sur demande pour le modèle sélectionné dans votre profil d'acheminement s'appliquent. Le profil achemine votre demande vers l'une des régions OCI cibles que vous sélectionnez. Pour les modèles qui effectuent des appels à un fournisseur externe, consultez les notes Appels externes pour ce modèle et la région OCI cible qui sert la demande.

Par exemple, à partir de Australie - Est (Sydney), vous pouvez créer un profil d'acheminement avec Japon - Centre (Osaka) comme seule région OCI cible et sélectionner l'un des modèles suivants :

Pour les modèles pris en charge et les régions OCI cibles, voir Modèles par région. Si vous sélectionnez plusieurs régions OCI cibles, vérifiez les notes Appels externes pour chaque région. Pour les instructions d'acheminement, voir Régions sans traitement local de modèle.

Réponses, conversations, fichiers et mémoire stockés

Que se passe-t-il lorsque je choisis d'enregistrer des réponses, des conversations, des fichiers ou de la mémoire?

Vous créez un projet d'agent d'intelligence artificielle d'entreprise dans un compartiment de votre location OCI et sélectionnez les fonctions dont votre application a besoin. Lorsque vous utilisez des fonctions qui enregistrent des réponses ou des conversations, chargent des fichiers ou activent la mémoire à long terme, vous choisissez de conserver le contenu de votre application. OCI enregistre ce contenu dans le cadre de votre projet afin que votre application puisse l'extraire ou le réutiliser.

Vous configurez la durée de conservation des réponses et des conversations. Vous choisissez les fichiers à charger et à gérer au moyen de l'API Fichiers. Si vous activez la mémoire à long terme, le service enregistre les informations des conversations pour les utiliser dans les interactions futures au sein du projet. Voir Création d'un projet, Conservation des données, Mémoire de l'agent et API de gestion de fichiers.

Puis-je enregistrer du contenu dans mon projet lorsque j'utilise Google Gemini ou xAI Grok?

Vous pouvez choisir d'enregistrer le contenu de votre application au moyen des fonctions de projet OCI. Les accords de conservation de données nulles d'Oracle avec Google et xAI régissent le contenu que ces fournisseurs traitent lorsque vous appelez leurs modèles. Le contenu que vous choisissez d'enregistrer dans OCI est géré en tant que données de projet et suit les paramètres de stockage et de conservation OCI applicables.

Chiffrement

Comment le réglage fin des données de formation est-il protégé?

Les données d'entraînement sont chiffrées au repos et en transit. Le service supprime les données d'entraînement de la grappe de réglage de précision dès que le travail d'entraînement est terminé.

Les données d'entraînement pour le réglage de précision d'un modèle sont toujours chiffrées deux fois par défaut, par chiffrement AES-256 géré par Oracle et éventuellement par des clés privées gérées par le client au moyen du service de chambre forte OCI. Vous pouvez supprimer les données à tout moment.

Oracle chiffre les données en mouvement avec TLS 1.2.