Meilleures pratiques
1. Définir la portée de l'agent
Définissez les informations suivantes pour chaque agent :
- Objectifs commerciaux
- Mesures de réussite
- Actions autorisées
- Actions interdites
- Exigences d'approbation humaine
- Chemins d'escalade
Concevoir des agents pour résoudre des problèmes commerciaux spécifiques plutôt que de servir d'assistants généraux. Les agents spécialisés plus petits réduisent la complexité de la validation, de la sécurité, de la surveillance et de la maintenance par rapport à un seul agent monolithique.
Exemple de banque dans la pratique : L'agent de gestion des prêts couvre exactement cinq activités : répondre aux questions sur le solde des prêts et l'historique des paiements, expliquer l'admissibilité au refinancement, générer des rappels de paiement, créer des tickets de service et acheminer les demandes de difficultés à un spécialiste humain. Il ne peut pas approuver une modification de prêt, renoncer à des frais, modifier une date d'échéance de paiement ou débloquer des fonds. Cela permet de réduire les risques opérationnels et réglementaires tout en améliorant la précision.

Description de l'image scope-example.png
Implémentation de production : LangGraph définit des noeuds dédiés pour la classification des intentions, l'extraction de compte, la recherche de stratégie, la création de ticket et le transfert humain. L'API de réponse d'IA d'Oracle Enterprise effectue un raisonnement, tandis que chaque action de changement d'état est déléguée à une API d'entreprise régie plutôt que exécutée directement par le modèle.
2. Créer des architectures d'agent modulaires
Les composants standard sont les suivants :
- Interface utilisateur
- Couche planification et raisonnement
- Orchestration d'outils
- Connecteurs Enterprise
- Services de mémoire
- Services de récupération (RAG)
- Moteur de stratégie
- Couche d'observabilité
- Couche de sécurité
La séparation des responsabilités aide les équipes à améliorer les composants indépendamment sans affecter le système global et simplifie les tests et le débogage.
Exemple de banque dans la pratique : Le workflow utilise des étapes indépendantes au lieu d'une invite de grande taille : extraire la demande du client, extraire ses enregistrements de prêt et de compte, vérifier les stratégies de service applicables, calculer les chiffres pertinents (montant final, prochaine échéance), rédiger une réponse et demander une approbation humaine si nécessaire. Le module de détection des fraudes et des difficultés peut être mis à niveau indépendamment du module de communication client.

Description de l'image architecture-example.png
Implémentation de production : LangGraph orchestre chaque étape en tant que noeud isolé. LangChain OCI fournit des connecteurs réutilisables à la plate-forme de service de prêt de la banque, tandis que l'API AI Response d'Oracle Enterprise gère le raisonnement à chaque étape indépendamment.
3. Implémenter une gouvernance fiable des outils
Définissez les éléments suivants pour chaque outil :
- Schémas d'entrée explicites
- Validation de sortie
- Exigences d'authentification
- Règles d'autorisation
- Limites d'expiration
- Comportement de nouvelle tentative
- Limites de taux
- Garanties d'idempotence
N'exposez jamais les API sans restriction directement à un grand modèle de langage (LLM). Enveloppez plutôt les API d'entreprise avec des interfaces d'outils contrôlées qui valident chaque demande avant son exécution.
Exemple de banque en pratique : L'agent peut lancer un "rappel de paiement" ou un "ticket de service", mais il n'accède jamais directement au livre bancaire principal. Chaque action passe par un outil de service qui valide l'identité du client, confirme que le compte est en règle, vérifie que l'action demandée respecte les limites de la stratégie, puis appelle uniquement l'API bancaire principale.

Description de l'image governance-example.png
Implémentation de production : LangChain OCI présente l'outil de maintenance comme une fonction structurée avec un schéma d'entrée/sortie strict. Oracle Identity vérifie l'autorisation de l'appelant avant l'exécution de l'outil, et chaque appel, qu'il soit réussi ou rejeté, est consigné pour audit.
4. Mettre en place une gestion forte des identités et des accès
Les meilleures pratiques incluent :
- Accès avec le moindre privilège
- Informations d'identification de courte durée
- OAuth ou fournisseurs d'identités d'entreprise
- Contrôle d'accès basé sur les rôles (RBAC)
- Gestion des clés secrètes via des coffres sécurisés
- Terminer la journalisation d'audit
Les agents ne doivent jamais recevoir d'autorisations plus larges que les utilisateurs humains qu'ils représentent.
Exemple de banque en pratique : Un agent de prêt qui utilise l'agent peut afficher et agir uniquement sur les comptes de son portefeuille affecté. Lorsque l'agent s'authentifie au nom de cet agent, il hérite des mêmes autorisations et n'en hérite plus. Si l'agent demande un compte en dehors de son portefeuille, l'outil sous-jacent rejette la demande avant que le modèle ne génère une réponse.

Description de l'image iam-example.png
Implémentation de production : Oracle Identity Cloud Service (IDCS) authentifie chaque session utilisateur. Chaque appel d'outil est vérifié par rapport à l'identité, au rôle et à la propriété des ressources de l'utilisateur. Cette vérification garantit que l'agent ne dépasse jamais les droits d'accès de l'employé demandeur.
5. Utiliser la génération augmentée par extraction (RAG) pour Enterprise Knowledge
Utilisez les exercices suivants :
- Stocker les connaissances de l'entreprise dans des index consultables
- Extraire dynamiquement les documents pertinents
- Appliquer les autorisations de document lors de l'extraction
- Citer les sources chaque fois que possible
- Gestion des versions
Une architecture RAG bien conçue améliore la précision, réduit les hallucinations et garantit que les réponses restent à jour sans réentraînement des modèles.
Exemple de banque dans la pratique : Lorsqu'un client demande des informations sur l'admissibilité au refinancement, l'agent extrait le manuel de stratégie de maintenance en cours, la feuille de taux applicable et les informations réglementaires pertinentes plutôt que de s'appuyer sur les données d'entraînement du modèle sous-jacent. Chaque réponse cite la section de stratégie spécifique qui la prend en charge. Lorsque la banque met à jour ses conditions de refinancement, l'agent reflète la modification.

Description de l'image rag-example.png
Implémentation de production : LangGraph inclut un noeud d'extraction dédié. Les manuels de stratégie et les feuilles de taux sont découpés et intégrés directement dans Oracle AI Database 26ai à l'aide du type de données VECTOR natif, avec des index HNSW pour une recherche de similarité rapide et des index vectoriels hybrides qui combinent une mise en correspondance sémantique et en texte intégral pour des recherches de stratégie précises. La sécurité au niveau de la ligne filtre les résultats avant l'extraction afin d'inclure uniquement les documents que l'utilisateur est autorisé à voir, et LangChain OCI interroge ce magasin afin que l'API de réponse d'IA d'Oracle Enterprise combine les passages filtrés par droit d'accès avec la question du client pour produire une réponse adaptée à la base.
6. Conception pour l'approbation humaine en boucle
Exiger une approbation humaine explicite pour les opérations à haut risque, notamment :
- Transactions financières
- Communications avec le client
- Modifications d'infrastructure
- Déploiements de production
- Suppression de données
- Actions légales ou de conformité
Les workflows d'approbation réduisent les risques opérationnels tout en permettant l'automatisation des tâches à faible risque.
Exemple de banque en pratique : L'agent peut envoyer automatiquement un rappel de paiement ou générer un devis final, mais toute demande impliquant un hébergement pénible, tel qu'un report de paiement, une exonération de frais ou un échéancier de remboursement modifié, s'interrompt et achemine vers un spécialiste du prêt humain. Le spécialiste reçoit un résumé de la situation du client, de l'historique du compte et de la recommandation de l'agent avant de décider.

Description de l'image hitl-exampe.png
Implémentation de production : les étapes d'approbation sont implémentées en tant que points de reprise LangGraph. L'état du workflow est conservé jusqu'à ce qu'un humain réponde. L'état persistant permet au processus de reprendre là où il a été mis en pause, même si cela prend des heures ou des jours.
7. Priorité à la fiabilité et à la résilience
Concevez des agents pour gérer correctement les pannes suivantes :
- Echecs d'API
- Pannes de réseau
- Echecs d'outil partiels
- Limitation de débit
- Limites des fenêtres de contexte
- Indisponibilité du modèle
- Réponses non valides
Les pratiques d'ingénierie recommandées incluent les disjoncteurs, les stratégies de nouvelle tentative avec backoff exponentiel, les délais d'attente des demandes, les modèles de secours, le traitement basé sur la file d'attente, les files d'attente de lettres mortes et les workflows à longue durée d'exécution des points de reprise. Les systèmes résilients récupèrent automatiquement sans intervention de l'opérateur.
Exemple de banque dans la pratique : au cours d'une demande de service de routine, l'API de banque centrale expire et le service d'identité devient brièvement indisponible. Au lieu de mettre fin à la session du client, l'agent tente de nouveau avec un back-off exponentiel, revient à une vue en lecture seule mise en cache du compte pour les questions d'information et reprend automatiquement toutes les fonctionnalités lorsque les services récupèrent. Cette approche minimise les perturbations pour le client.

Description de l'image reliability-example.png
Implémentation de production : LangGraph le point de reprise conserve l'état du workflow en cas d'échec. Oracle Enterprise AI Deployment met automatiquement à l'échelle les adresses d'inférence en cours de chargement, et les connecteurs d'API d'entreprise implémentent par défaut des stratégies de nouvelle tentative et des disjoncteurs.
8. Etablir une observabilité complète
Capturez les invites, les réponses, les appels d'outil, la latence, la consommation de jetons, le coût, les taux de réussite, les taux d'erreur, les approbations humaines, les commentaires des utilisateurs et les traces d'exécution. La fonction de trace distribuée dans les workflows d'agent simplifie le dépannage et l'optimisation des performances.
Exemple de banque en pratique : Les clients commencent à signaler des réponses plus lentes de la part de l'agent de maintenance. Plutôt que de deviner, les ingénieurs inspectent les traces distribuées et trouvent la répartition : réponse du modèle 1,1 seconde, extraction de la stratégie 140 ms, recherche du core banking 4,6 seconde, vérification de l'identité 250 ms. Les traces identifient le goulet d'étranglement comme un appel lent du service bancaire principal, et non l'agent lui-même.

Description de l'illustration observationability-example.png
Implémentation de production : chaque noeud LangGraph émet des traces, des mesures et des journaux. OpenTelemetry met en corrélation le chemin de demande complet dans LangGraph, l'API Oracle Enterprise AI Response, les connecteurs d'entreprise, l'index d'extraction et le déploiement d'IA Oracle Enterprise. Cette corrélation donne aux équipes opérationnelles une visibilité complète de bout en bout.
9. Evaluer en continu
Conservez des jeux de données d'évaluation couvrant les scénarios métier, les cas en périphérie, les cas d'échec, les invites contradictoires, les attaques de sécurité et les tests de régression. Intégrez des évaluations automatisées dans les pipelines d'intégration continue et de déploiement continu afin que chaque mise à jour d'invite, de workflow ou de modèle soit validée avant la publication.
Exemple de banque dans la pratique : avant qu'une mise à jour de modèle ou d'invite n'atteigne l'agent de service de prêt, elle est exécutée sur une suite d'évaluation fixe : 2 000 conversations de service historique, 500 cas en périphérie réglementaire (par exemple, les divulgations requises en vertu de la loi sur les prêts), 200 tentatives d'injection rapide intégrées dans les documents chargés et un test d'évaluation de la conformité. Seules les versions qui satisfont ou dépassent la référence de production actuelle sont promues.

Description de l'illustration évaluée-example.png
Implémentation de production : les pipelines CI/CD exécutent automatiquement la suite d'évaluation à chaque modification. Les modifications d'invite, les modifications de workflow et les mises à niveau de modèle nécessitent toutes la réussite de ces tests de régression avant que le déploiement ne soit autorisé.
10. Sécuriser contre l'injection rapide et les pertes de données
Les stratégies d'atténuation incluent la validation des entrées, la désinfection rapide, l'isolement des outils, la séparation des contextes, le filtrage des sorties, la protection par occultation des données sensibles et l'application des stratégies avant l'exécution. Les agents ne doivent jamais suivre les instructions extraites de documents externes ou de contenu Web sans validation.
Exemple de banque en pratique : Un client charge un document justificatif pour une demande de refinancement. Les métadonnées du document contiennent du texte masqué qui indique au système d'approuver immédiatement la demande. Etant donné que le système traite les documents chargés comme des données non fiables, l'agent ignore l'instruction intégrée et continue d'évaluer la demande uniquement par rapport aux stratégies de service réelles de la banque.

Description de l'exemple secure-example.png
Implémentation de la production : LangGraph conserve les instructions système, les entrées utilisateur, les documents extraits et les résultats des outils dans des canaux distincts. La validation de stratégie s'exécute avant chaque appel d'outil. Cette défense en couches empêche les instructions injectées d'influencer une action sensible. En tant que contrôle supplémentaire sous la couche d'application, Oracle Deep Data Security applique des stratégies déclaratives de niveau ligne, colonne et cellule directement dans Oracle AI Database 26ai. Même si une instruction injectée provoque l'émission d'une requête non autorisée par l'agent, la base de données utilise l'identité propagée de l'agent et le contexte d'exécution pour renvoyer uniquement les données que l'agent a le droit de voir et masque tout le reste comme NULL.
11. Gérer le contexte et la mémoire
Les meilleures pratiques incluent la séparation de la mémoire de session et de la mémoire à long terme, le chiffrement de la mémoire stockée, la définition de stratégies de conservation, la prise en charge de la suppression de la mémoire, la gestion des versions des mises à jour de la mémoire et la prévention du stockage d'informations personnelles inutiles. Ne conserver que les informations qui améliorent l'exécution des tâches futures tout en respectant les réglementations en matière de confidentialité.
Exemple de banque en pratique : l'agent de service de prêt initialise une seule instance OracleAgentMemory soutenue par le pool de connexions Oracle AI Database de la banque. Chaque interaction client devient un fil d'exécution, porté sur le user_id de ce client.
- Lorsqu'un client dit quelque chose comme "Je préférerais être contacté par du texte à l'avenir", l'agent appelle thread.add_messages(...), qui écrit la conversation brute dans la base de données et extrait automatiquement un fait durable, la préférence de canal de contact préféré, sans étape d'extraction distincte.
- Pour les informations que l'agent conserve en dehors du flux conversationnel normal (par exemple, "le cas de difficultés du client a été transmis à un spécialiste le 3 juillet"), il écrit explicitement en utilisant thread.add_memory(...).
- Lors d'un appel ultérieur, l'agent extrait l'historique pertinent avec memory.search(query=..., scope=SearchScope(user_id=...)). Cette portée conserve la mémoire partitionnée par client. La session d'agent d'un agent de prêt ne peut effectuer une recherche que dans la portée pour laquelle il est autorisé (agent, utilisateur ou équipe), avec les autorisations héritées de l'identité d'entreprise du responsable.
Cette conception correspond à la répartition requise de la banque entre la mémoire de session et la mémoire à long terme : l'historique des messages bruts fonctionne en tant que mémoire de session ou de travail, tandis que les faits et l'état extraits fonctionnent en tant que mémoire durable et intersessions. La mémoire durable aide l'agent à reconnaître les préférences d'un client qui revient sans le demander à nouveau. L'agent peut également utiliser Similarity pour marquer une nouvelle demande qui ressemble à un cas de difficultés précédent sans conserver les numéros de compte ou les données d'authentification que la banque ne souhaite pas qu'un agent persiste.

Description de l'image memory-example.png
Implémentation de production : la session et la mémoire à long terme sont toutes deux actives dans Oracle AI Database 26ai. Les faits et l'état extraits sont stockés à l'aide du type de données VECTOR natif et indexés avec des index vectoriels HNSW. La mémoire vectorielle élastique permet une récupération rapide à mesure que la mémoire augmente. Les index vectoriels hybrides combinent la recherche sémantique et en texte intégral pour alimenter les recherches de similarité, avec une précision de recherche réglable en pourcentage. Governed Access utilise la sécurité de base de données intégrée d'Oracle, notamment le cryptage, le masquage des données et l'audit des activités. Les autorisations sont héritées du même système d'identité décrit dans la section 4. La conservation s'exécute sous la forme d'un travail de cycle de vie planifié qui purge la mémoire après la fenêtre réglementaire de la banque.
12. Créer des garde-fous d'IA responsables
Utilisez des garde-fous pour traiter les contenus nuisibles, la détection des biais, le filtrage de la toxicité, les exigences de conformité, la protection de la vie privée, la propriété intellectuelle et les obligations réglementaires. Maintenir une surveillance humaine pour les situations exceptionnelles.
Exemple de banque dans la pratique : Le prêt est une activité fortement réglementée, de sorte que l'agent exécute chaque réponse côté client via une garde-fous de conformité avant son envoi. Le garde-corps vérifie les informations réglementaires requises (telles que le langage de prêt équitable) et recherche le langage qui pourrait être interprété comme une déclaration discriminatoire à propos d'une classe protégée. Il empêche également l'agent de faire toute déclaration qui ressemble à une décision de crédit contraignante et expurge les informations personnellement identifiables avant que les informations ne soient consignées ou citées dans une réponse.

Description de la figure gurdrails-example.png
Implémentation de la production : Un moteur de stratégie se trouve entre la couche de raisonnement et la sortie orientée client et applique les règles de conformité et d'IA responsable en tant que point de reprise final. Le moteur de stratégies bloque automatiquement les violations et les achemine vers un réviseur de conformité au lieu de les présenter au client.
13. Optimiser les coûts et les performances
Les techniques d'optimisation incluent le routage du modèle, la mise en cache des réponses, la mise en cache sémantique, l'optimisation des jetons, la compression du contexte, l'inférence de batch, les réponses de transmission en continu et la sélection de modèle dynamique. Toutes les demandes ne nécessitent pas le plus grand modèle disponible. La sélection du modèle approprié pour chaque tâche peut réduire la latence et les coûts opérationnels.
Exemple de banque en pratique : Une simple question "Quelle est ma prochaine date d'échéance de paiement" est acheminée vers un modèle plus petit et à faible latence soutenu par un cache sémantique, car la réponse est une recherche directe. Une question nuancée sur l'admissibilité au refinancement, qui nécessite un raisonnement en plusieurs étapes dans les documents de politique, est acheminée vers un modèle plus large. Ce routage dynamique a réduit de plus de moitié le coût moyen de réponse de l'agent sans dégrader la précision des demandes complexes.

Description de l'illustration Optimo-example.png
Implémentation de production : Oracle Enterprise AI Deployment prend en charge plusieurs niveaux de modèle déployés simultanément, et le noeud de routage de LangGraph sélectionne le niveau approprié en fonction de la classification des intentions, avec un cache sémantique devant les types de demande les plus volumineux et les moins complexes.
14. Implémenter des pratiques de déploiement sécurisées
Les pratiques recommandées incluent les invites et workflows de gestion des versions, les déploiements canari, les déploiements bleu/vert, les indicateurs de fonctionnalité, les mécanismes d'annulation, la gestion de la configuration et Infrastructure as Code (IaC). Consulter et tester les modifications apportées aux invites à l'aide des mêmes traitements que le code application.
Exemple de banque en pratique : Lorsque la banque introduit une nouvelle fonctionnalité de recommandation de refinancement, elle ne libère pas la fonctionnalité à l'échelle de la banque à la fois. La banque déploie cette capacité par étapes : pour les agents de prêt internes seulement en semaine 1, pour 5 % des clients en semaine 2, pour 25 % des clients en semaine 3 et pour tous les clients en semaine 4. La banque surveille les taux d'erreur à chaque étape et annule automatiquement la capacité si les taux dépassent un seuil défini.

Description de l'illustration deployment-example.png
Implémentation de production : Oracle Enterprise AI Deployment gère les adresses de modèle avec numéro de version, IaC provisionne des environnements cohérents dans les environnements de développement, de test et de production, et les indicateurs de fonctionnalité contrôlent le déploiement indépendamment du déploiement de modèle sous-jacent.
15. Mesurer les résultats commerciaux
Suivez les indicateurs clés de performance axés sur l'entreprise tels que le taux d'achèvement des tâches, le taux d'intervention humaine, la satisfaction client, le temps de résolution, les économies de coûts opérationnels, les améliorations de productivité, la précision et le taux de conformité. Ces indicateurs démontrent la valeur commerciale et guident les efforts d'amélioration continue.
Exemple de banque en pratique : Six mois après le lancement, la banque suit les résultats mesurables plutôt que la précision du modèle seule.
| Indicateur clé de performance | Avant l'agent | Après l'agent |
|---|---|---|
| Durée moyenne de résolution | 18 minutes | 5 minutes |
| Résolution des premiers contacts | 62% | 87% |
| Escalades humaines | 45% | 14% |
| Satisfaction du client | 4,1 / 5 | 4,7 / 5 |
| Coût par interaction de service | $8,4 | $2,75 |
Ces résultats démontrent une valeur commerciale mesurable, pas seulement des performances techniques.
Implémentation de la production : les métriques OpenTelemetry sont combinées avec des indicateurs clés de performance métier extraits des systèmes CRM et de service de prêt de la banque. Les tableaux de bord d'ingénierie associent des indicateurs techniques tels que la latence, l'utilisation des jetons et le taux de défaillance des outils à des résultats commerciaux tels que le temps de résolution et la satisfaction client. Cette corrélation permet une optimisation continue basée sur un impact opérationnel réel.