Cette rubrique fournit des réponses aux questions fréquentes sur l'utilisation de l'IA générative avec Oracle Analytics.
L'IA générative d'Oracle Analytics utilise-t-elle plusieurs modèles ou un système de modèles interdépendants?
Oracle Analytics ne met pas en œuvre les modèles d'IA générative chaînés ou interdépendants. Chaque modèle fonctionne en tant que composant indépendant, ce qui simplifie l'évaluation de la performance, les contrôles d'accès et les processus de gestion des risques. Oracle évalue en continu les modèles et architectures les plus appropriés pour un large éventail de cas d'utilisation d'analyse et peut mettre à jour ou modifier ses modèles et architecture privilégiés au fil du temps.
Quelle catégorie de modèles est utilisée dans le produit? Le modèle est-il développé en interne ou par une tierce partie?
Les fonctions d'IA générative d'Oracle Analytics tirent parti des modèles de base de fournisseurs d'IA établis qui sont configurés pour les déploiements d'entreprise. Pour obtenir la liste courante de nos modèles d'IA générative, voir Modèles d'IA générative préentraînés.
Le modèle est-il surveillé et testé de façon continue? À quelle fréquence?
Les modèles sont revalidés à chaque nouvelle version et les problèmes de performance identifiés sont résolus. Lors du développement, Oracle utilise des mesures d'apprentissage automatique standard, notamment les scores de précision, de rappel et F1, pour valider les modèles d'IA avant le déploiement. Oracle Analytics utilise des données synthétiques pour l'évaluation des modèles, combinées à un jeu de données organisées manuellement. L'évaluation se concentre sur la précision et la dérive en évaluant la capacité des modèles à générer des réponses qui correspondent à la vérité terrain. Les résultats sont comparés à des références établies pour identifier les non-concordances (énoncés qui échouent alors qu'ils réussissaient auparavant) et les concordances (énoncés qui réussissent alors qu'ils échouaient auparavant). Toute non-concordance est classée en tant que régression et sert de point de contrôle pour les modifications de code, révisions de modèle ou modifications de déploiement.
Oracle met-il en oeuvre des processus pour communiquer les modifications apportées aux modèles et aux sorties?
Dans le cadre du processus de publication d'Oracle Analytics, nous mettons à jour la page Nouveautés dans Oracle Analytics Cloud avec les modifications apportées aux modèles ou aux sorties d'IA. Les administrateurs de location peuvent également activer les abonnements d'utilisateur, ce qui garantit une meilleure circulation des informations au sein de l'organisation. En outre, tout le monde peut se tenir informé des nouvelles fonctionnalités et des versions à venir en s'abonnant au courriel hebdomadaire d'Oracle Analytics à partir du Site de la communauté Oracle Analytics.
Oracle Analytics utilise également les politiques standard de gestion des modifications d'Oracle Cloud, documentées dans Politiques d'hébergement et de livraison d'Oracle Cloud.
La politique d'Oracle en matière d'intelligence artificielle prévoit-elle un processus de révision pour les fonctions juridiques et de gestion des risques?
Les équipes de développement de produits d'Oracle respectent les directives recommandées et obligatoires de l'organisation Global Product Security, qui tient à jour les normes de codage sécurisé d’Oracle. Une partie de ces normes s'applique à l'intelligence artificielle et à l'apprentissage automatique, qui sont soumis à un certain nombre de directives de sécurité. Ces directives sont réparties dans les catégories suivantes :
Dans le cadre des normes de codage sécurisé prescrites ci-dessus, les équipes de développement de produits d'Oracle évaluent régulièrement leurs projets à la recherche de vulnérabilités et de risques propres à l'IA.
La sécurité du modèle, de l'architecture d'IA d'Oracle Analytics et de l'intégration à Oracle Analytics a été soumise au processus d'évaluation de la sécurité du programme CSSAP. CSSAP est un processus complet d'évaluation de la sécurité développé par les équipes d'architecture de sécurité d'entreprise, de sécurité globale de l'information, de sécurité globale des produits et les organisations informatiques d'Oracle pour fournir une évaluation approfondie de la gestion de la sécurité de l'information. Pour des informations supplémentaires, voir Surveillance de l'architecture de sécurité d'entreprise.
Oracle collecte-t-il des données d'utilisateur ou des mesures similaires pour évaluer les différences des données d'entrée et de sortie par rapport aux environnements de test?
Actuellement, Oracle Analytics ne collecte pas de commentaires explicites des utilisateurs à cette fin. Comme le modèle n'est pas réglé ni entraîné sur les données des clients, les tests sont limités à des références de modèle par défaut, comme indiqué ci-dessus. En résumé : les modèles sont revalidés à chaque nouvelle version, et tous les problèmes de performance identifiés sont résolus en conséquence. Lors du développement, Oracle applique des mesures standard d'apprentissage automatique, telles que les scores de précision, de rappel et F1, pour valider les modèles d'IA avant le déploiement.
Oracle intègre-t-il des entrées externes ou des outils de tierce partie à son modèle?
Oracle Analytics n'intègre aucune entrée externe dans ses interactions avec le modèle. Les interactions du modèle sont strictement limitées à la communication directe entre Oracle Analytics et le modèle lui-même.
Le modèle dépend-il d'outils ou de solutions de tierce partie qui pourraient rendre difficile la migration du modèle vers un autre environnement?
Le modèle est déployé en tant que service Oracle Cloud Infrastructure, avec le même modèle de base disponible pour plusieurs instances de service. Aucune migration de modèle n'est requise entre les instances.
Quelle est la réponse d'Oracle en cas d'incident lié au système d'IA?
Oracle Analytics utilise les politiques standard de réponse aux incidents d'Oracle Cloud, documentées dans l'article consacré au contrat de niveau de service du document Politiques d'hébergement et de livraison d'Oracle Cloud.
Comment Oracle teste-t-il la qualité des explications de système?
Oracle Analytics soumet toutes les modifications de code, révisions de modèle et modifications de déploiement à un point de contrôle de version qui comprend une évaluation des réponses générées correspondant à la vérité terrain établie par nos références d'évaluation. La vérité terrain dans les références comprend toutes les explications de système générées dans le cadre de la réponse. Toute non-concordance est classée comme une régression et sert de point de contrôle.
Comment Oracle évalue-t-il la fiabilité et l'équité des résultats du système?
Oracle Analytics s'appuie sur l'infrastructure du service d'IA générative pour OCI pour ses modèles de base et n'entraîne pas explicitement les modèles. Le service d'IA générative pour OCI met en oeuvre les meilleures pratiques pour assurer la fiabilité de ses modèles de base et éviter qu'ils soient biaisés.
En outre, Oracle Analytics offre actuellement un contrôle sommaire de la contribution du grand modèle de langage (GML) à la réponse fournie aux utilisateurs finaux. Ce mécanisme permet d'éviter que le GML présente directement les informations aux utilisateurs finaux, ce qui garantit que les réponses générées sont entièrement produites par Oracle Analytics, et donc fiables. En outre, l'administrateur des services Oracle Analytics peut désactiver toutes les fonctions basées sur l'IA au niveau de chaque fonction. Pour plus d'informations, consultez À propos de la configuration de l'intelligence artificielle générative.
Existe-t-il un plan de récupération après sinistre et d'urgence pour les instances lorsque le modèle n'est pas disponible?
Oracle Analytics s'appuie sur l'infrastructure du service d'IA générative pour OCI pour ses modèles de base. La résilience et la tolérance aux défaillances de l'infrastructure OCI sont décrites dans le document Politiques d'hébergement et de livraison d'Oracle Cloud. Pour plus de détails sur les grappes dédiées du service d'intelligence artificielle générative pour OCI, consultez Création d'une grappe dédiée à l'IA pour l'hébergement de modèles dans le service d'intelligence artificielle générative et Document pilier des services Oracle PaaS Public Cloud et Oracle IaaS Public Cloud.
Comment Oracle teste-t-il la cohérence du modèle dans différents environnements?
Tous les modèles de client et de développement sont déployés dans le même cadre Oracle Cloud Infrastructure. Les environnements de test internes, y compris les environnements de test de préproduction et de production, conservent le même état de configuration que les environnements de client.
Oracle dispose-t-il d'une politique de gouvernance établie pour le modèle?
Oracle Analytics tire parti des modèles de base déployés au moyen du service d'IA générative pour Oracle Cloud Infrastructure. Ces modèles sont utilisés dans leur état natif sans modification. Oracle Analytics n'applique ni entraînement, ni réglage fin ni personnalisation aux modèles de base sous-jacents. Par conséquent, les politiques de gouvernance de modèle utilisées par l'infrastructure du service d'IA générative pour OCI s'appliquent également à Oracle Analytics.
Oracle a-t-il établi des politiques et des procédures qui définissent les rôles et les responsabilités en matière de surveillance humaine des modèles déployés?
Oracle Analytics offre un processus robuste pour l'évaluation des modèles à l'aide de données synthétiques qui sert de point de contrôle pour toute modification de code, révision de modèle ou déploiement. Les exécutions d'évaluation de modèle sont évaluées de manière automatisée et par une surveillance humaine. De plus, Oracle Analytics n'applique aucune surveillance humaine aux modèles déployés.