1. Activation d'un moteur d'applications LLM modulaire low code à l'aide d'Oracle Integration et d'OCI Generative AI
  2. Activation d'un moteur d'applications LLM modulaire low code à l'aide d'Oracle Integration et d'OCI Generative AI

Activation d'un moteur d'applications LLM modulaire à faible code à l'aide d'Oracle Integration et d'OCI Generative AI

Oracle Integration est un service entièrement géré qui permet une approche low-code ou no-code pour la connectivité d'entreprise, les fonctionnalités d'extension et d'automatisation permettant de moderniser rapidement les applications, les processus métier, les API et les données. Avec une expérience de développement visuel, des intégrations prédéfinies et des meilleures pratiques intégrées, Oracle Integration peut orchestrer des API, des applications, des systèmes, etc., et activer des applications et des flux métier personnalisés basés sur l'IA et sur l'humain.

Oracle Cloud Infrastructure Generative AI (OCI Generative AI) est un service entièrement géré qui fournit un ensemble de modèles de langage volumineux personnalisables de pointe qui couvrent un large éventail de cas d'utilisation pour la génération de texte, la synthèse, l'intégration et la fin des discussions. Vous pouvez utiliser l'aire de jeu - une interface dans la console pour explorer les modèles préentraînés et personnalisés hébergés sans écrire une seule ligne de code ou créer et héberger vos propres modèles personnalisés affinés basés sur vos propres données sur des clusters d'IA dédiés.

Combinaison des services Oracle Integration et OCI Generative AI avec d'autres services OCI tels qu'Oracle Cloud Infrastructure Streaming (OCI Streaming, un service Kafka géré par Oracle), OCI Document Understanding (service sans serveur accessible à l'aide d'appels d'API REST pour la reconnaissance optique des caractères (OCR), l'extraction de texte, l'extraction clé-valeur, l'extraction de table et la classification des documents), Oracle Cloud Infrastructure Language (service sans serveur accessible à l'aide d'appels d'API REST pour l'analyse des sentiments de texte, la reconnaissance d'entité nommée, la classification et plus encore), OCI Vision (service sans serveur accessible à l'aide d'appels d'API REST pour la détection d'objets et la classification des images), Oracle Cloud Infrastructure Data Science (plate-forme entièrement gérée et sans serveur que les équipes de data science peuvent utiliser pour créer, entraîner, et gérez le machine learning - modèles de machine learning) et d'autres en utilisant les adaptateurs natifs et l'approche de développement visuel d'Oracle Integration, vous donne la possibilité d'activer des applications LLM personnalisées modulaires, évolutives, maintenables et sécurisées.

Architecture

Cette architecture de référence fournit les considérations et recommandations nécessaires pour activer un moteur d'applications LLM basé sur l'IA, modulaire et orienté événements, à l'aide des éléments suivants :

  • Approche low code ou no code pour les flux Data Loader et Query Engine de votre application LLM avec des outils d'orchestration visuelle Oracle Integration et des adaptateurs natifs pour différents canaux de données d'entreprise, de productivité et de réseaux sociaux (les utilisateurs saisissent le moteur d'applications LLM, qu'il s'agisse de documents, d'images, de données métier ou de requêtes) et les sources (source des données utilisées par le moteur d'applications LLM), ainsi que les adaptateurs natifs des différents services OCI utilisés par le moteur d'applications LLM (API REST OCI Generative AI, bases de données ou magasins vectoriels, API REST Oracle Cloud Infrastructure Language, adresses REST de modèle personnalisé Oracle Cloud Infrastructure Data Science, etc.). Cela vous aide à configurer rapidement vos flux de candidature LLM
  • Modèle basé sur les événements permettant de découpler les sources et les canaux de données de document, d'image et d'entreprise, ainsi que les canaux de requête des modules du chargeur de données et du moteur de requêtes du moteur d'applications LLM à l'aide du service OCI Streaming (service Kafka géré par Oracle) et de l'adaptateur natif dont nous disposons pour ce service OCI dans Oracle Integration. Cela permet d'activer une application LLM évolutive et performante.
  • Une connexion privée au cloud 3e partie, aux applications sur site, aux systèmes, etc., à l'aide de l'agent de connectivité Oracle Integration, qui est le catalyseur clé des architectures d'intégration hybrides et multiclouds, spécialement dans une application LLM où les documents, les images, les données commerciales, les requêtes des utilisateurs peuvent provenir de ces systèmes et où vous souhaitez garder le transit des documents et des données privé et sécurisé. Cela permet d'améliorer la sécurité du flux LLM de bout en bout, en conservant le trafic au sein de réseaux privés.
  • Possibilité d'utiliser des modèles LLM natifs ou des modèles LLM personnalisés affinés dans votre application LLM en tant que services dans OCI (orchestration d'adresses de modèle OCI Generative AI ou d'adresses de modèle OCI Data Science à l'aide d'adaptateurs natifs du cloud Oracle Integration).
  • Une approche flexible pour connecter ou déconnecter votre propre interface utilisateur (UI) pour votre application LLM avec le moteur d'application LLM, ou une approche low-code pour créer l'interface utilisateur à l'aide de Visual APP Builder sous Oracle Integration ou d'Oracle APEX.

Le diagramme suivant illustre cette architecture de référence.


Description de l'image oci-lowcode-ai-arch.png
Description de l'illustration oci-lowcode-ai-arch.png

oci-lowcode-ai-arch-oracle.zip

Le moteur d'applications LLM Low Code est composé de 2 blocs principaux :

Chargeur de données de document, d'image et d'activité
Description de l'image oci-generative-ai-llm-data-loader-arch.png
Description de l'illustration oci-generative-ai-llm-data-loader-arch.png

oci-generative-ai-llm-data-loader-arch-oracle.zip

  • Ce bloc reçoit d'abord les documents d'entrée, les images ou les données commerciales ajoutés par un utilisateur via un canal social/de productivité (par exemple, WhatsApp, Outlook, Gmail, Twitter, etc.), un canal de données commerciales (par exemple, 3e partie sur site ou application Web cloud, système de gestion de contenu, stockage cloud 3e partie comme Microsoft Azure Cloud Storage, AWS S3, Google Cloud Storage, FTP, File Server, ERP, CX, HCM - applications sur site ou SaaS, etc.), une interface utilisateur personnalisée du moteur de recherche de connaissances (par exemple, une interface utilisateur personnalisée construite à l'aide d'outils d'application visuels low-code tels que Visual Builder sous Oracle Integration ou Oracle APEX sous Oracle Database) ou directement dans un bucket OCI Object Storage, à l'aide des flux d'orchestration visuelle d'Oracle Integration et des adaptateurs natifs.
  • Les documents, images ou données d'entreprise sont extraits en fonction du type d'entrée. Par exemple, pour l'objet image, la détection de texte, vous pouvez utiliser le service OCI AI Vision, pour la classification de documents, l'extraction, vous pouvez utiliser le service OCI AI Document Understanding, pour des types spécifiques d'images, des documents que vous pouvez utiliser une fonction sans serveur dans votre langage de programmation préféré à l'aide d'OCI Functions, etc.
  • Les documents, images ou données d'entreprise peuvent être traités par :
    • Extraction des métadonnées à l'aide du service OCI AI Language (par exemple, extraction d'entité, de mot-clé, extraction de phrase-clé, analyse de sentiment, détection d'informations d'identification personnelle/d'informations d'identification personnelle et brouillage dynamique, etc.) pour une extraction de contexte plus pertinente (par exemple, activation de la génération augmentée d'extraction (RAG), etc.).
    • Intégrer les données à un modèle LLM à l'aide du service OCI Generative AI pour une extraction de contexte plus pertinente (par exemple, pour activer la génération augmentée d'extraction (RAG), etc.).
    • Résumer les données avec un modèle LLM à l'aide du service OCI Generative AI pour une extraction de contexte plus pertinente (par exemple, pour activer un index récapitulatif pour la recherche sur plusieurs documents, également appelé extraction hiérarchique structurée, etc.).
    • Stockage des données dans une banque relationnelle pour une recherche plus approfondie sur des données structurées (par exemple, Oracle Database, Oracle Database Cloud Service, Autonomous Database, MySQL, PostgreSQL, etc.).
    • Indexation des données dans un magasin de vecteurs pour une recherche plus approfondie sur des données non structurées (par exemple, vecteur, récapitulatif, index de mots-clés avec OCI AI Vector Search, service de recherche OCI avec OpenSearch, Qdrant, etc.).

      Remarque : la nouvelle fonctionnalité de recherche de similarité de vecteur AI sera disponible dans Oracle Database 23.4c.

Moteur de requête
Description de l'image oci-generative-ai-llm-query-engine-arch.png
Description de l'illustration oci-generative-ai-llm-query-engine-arch.png

oci-generative-ai-llm-query-engine-arch-oracle.zip

  • Ce bloc reçoit d'abord la requête d'entrée d'un utilisateur via un canal social et de productivité (par exemple, Whatsapp, Outlook, Gmail, etc.), un canal de données commerciales (par exemple, une application Web sur site/cloud 3e partie, et ainsi de suite) ou à partir d'une interface utilisateur personnalisée du moteur de recherche de connaissances (par exemple, une interface utilisateur personnalisée construite à l'aide d'outils d'application visuels low-code tels que Visual Builder sous Oracle Integration ou Oracle APEX sous Oracle Database) à l'aide des flux d'orchestration visuelle d'Oracle Integration et des adaptateurs natifs.
  • La requête entre dans le pipeline de requêtes à l'aide d'Oracle Integration, où elle peut être traitée par l'une des méthodes suivantes :
    • Filtrage de la requête à l'aide du service OCI Generative AI, afin d'éviter l'injection d'invite.
    • Réécriture ou transformation de la requête à l'aide du service OCI Generative AI, afin d'obtenir une meilleure extraction de contexte pertinente.
    • Acheminement de la requête avec des sélecteurs de moteur de requête à l'aide d'OCI Generative AI, afin de déterminer comment exécuter la requête sur vos données soit en tant que synthèse de données, soit en tant qu'extraction de contexte spécifique.
    • Extraction de l'historique des conversations à partir d'un magasin d'historique des discussions à l'aide d'OCI Cache avec Redis, dans les cas d'utilisation où la mémoire de discussion est requise.
    • Intégrer la requête à l'aide du service OCI Generative AI, pour les cas d'utilisation d'extraction de contexte pertinents (par exemple, pour activer la génération augmentée d'extraction (RAG), etc.).
    • Acheminement des extracteurs de contexte pertinents à l'aide du service OCI Generative AI, afin de déterminer les sources de données à partir desquelles obtenir des données pour répondre à la requête d'entrée.
    • Extraction des données de contexte pertinentes pour répondre à la requête à partir des banques de vecteurs (par exemple, OCI AI Vector Search, OCI Search Service avec OpenSearch, Qdrant, etc.) pour les cas d'utilisation de la génération augmentée d'extraction (RAG), des banques relationnelles (par exemple, Oracle Database, Oracle Database Cloud Service, Autonomous Database, MySQL, PostgreSQL, et etc.) pour effectuer des recherches sur des données d'entreprise structurées ou sur des sources de données d'entreprise Social, Productivity et Business (par exemple, Twitter, Outlook, Gmail, ERP/HCM/CX Apps, etc.) pour effectuer des recherches à la demande sur des données d'entreprise, le tout orchestré par Oracle Integration à l'aide d'adaptateurs natifs pour se connecter à ces sources de données.
    • Réévaluation des données de contexte pertinentes extraites à l'aide d'un modèle de réévaluation déployé et exposé dans OCI Data Science, afin d'optimiser la recherche.
    • Génération de la réponse finale à la requête à l'aide des fonctionnalités du service OCI Generative AI pour l'agrégation, la génération et l'achèvement de la discussion.

L'architecture comporte les composants suivants :

  • Oracle Integration

    Oracle Integration est un service entièrement géré et une plate-forme de connectivité, d'extension et d'automatisation d'entreprise low-code permettant de moderniser rapidement les applications, les processus métier, les API et les données. Les développeurs et les architectes cloud peuvent connecter les applications SaaS et sur site six fois plus rapidement grâce à une expérience de développement visuel, des intégrations prédéfinies et des meilleures pratiques intégrées. Oracle Integration vous donne un accès natif aux événements dans Oracle Cloud ERP, HCM et CX. Connectez les silos analytiques spécifiques à l'application pour simplifier les processus critiques de la demande au reçu, du recrutement au paiement, du lead à la facture et autres. Enfin, offrez à vos responsables informatiques et commerciaux une visibilité de bout en bout.

  • OCI Generative AI

    L'IA générative Oracle Cloud Infrastructure (OCI) est un service entièrement géré disponible via une API pour intégrer de manière transparente ces modèles de langage polyvalents dans un large éventail de cas d'utilisation, notamment l'aide à la rédaction, la synthèse et la discussion. Le service OCI Generative AI inclut les modèles de base suivants :

    • Génération : donnez des instructions pour générer du texte ou extraire des informations de votre texte.
    • Synthèse : synthétise le texte en fonction du format, de la longueur et du ton indiqués.
    • Incorporation : Convertissez du texte en incorporations vectorielles à utiliser dans les applications pour les recherches sémantiques, la classification de texte ou la mise en cluster de texte.
  • OCI Document Understanding

    OCI Document Understanding est un service d'IA qui permet aux développeurs d'extraire du texte, des tables et d'autres données clés à partir de fichiers de documents via des API et des outils d'interface de ligne de commande. Grâce à OCI Document Understanding, vous pouvez automatiser les tâches fastidieuses de traitement d'entreprise avec des modèles d'IA prédéfinis et personnaliser l'extraction de documents pour répondre aux besoins spécifiques de votre secteur d'activité.

  • Oracle Cloud Infrastructure Language

    OCI Language est un service sans serveur et colocatif accessible à l'aide d'appels d'API REST. Il fournit des modèles pré-entraînés qui sont souvent réentraînés et surveillés pour vous donner les meilleurs résultats. Le langage vous fournit des fonctionnalités d'intelligence artificielle et d'apprentissage automatique pour détecter le langage dans votre texte non structuré. Il fournit également d'autres outils pour vous aider à mieux comprendre votre texte.

  • OCI Vision

    OCI Vision est un service d'IA permettant d'effectuer des analyses d'images basées sur le deep learning à grande échelle. Grâce à des modèles prédéfinis prêts à l'emploi, les développeurs peuvent facilement intégrer la reconnaissance d'images et la reconnaissance de texte dans leurs applications sans expertise en machine learning (ML). Pour les cas d'utilisation spécifiques au secteur, les développeurs peuvent entraîner automatiquement des modèles Vision personnalisés avec leurs propres données. Ces modèles peuvent être utilisés pour détecter des anomalies visuelles dans le secteur de la fabrication, pour extraire du texte à partir de documents afin d'automatiser les workflows de l'entreprise, et pour marquer des articles dans des images afin de compter les produits ou les expéditions. En plus d'accéder à des modèles préentraînés, les développeurs peuvent créer des modèles personnalisés sans expertise en science des données ou sans gérer une infrastructure de modèles personnalisée.

  • Stockage d'objet

    Le stockage d'objets fournit un accès rapide à de grandes quantités de données, structurées ou non, de tout type de contenu, y compris des sauvegardes de base de données, des données analytiques et du contenu enrichi tel que des images et des vidéos. Vous pouvez stocker les données, puis les extraire directement à partir d'Internet ou de la plate-forme cloud, et ce, en toute sécurité. Vous pouvez redimensionner le stockage de manière transparente sans dégradation des performances ni de la fiabilité des services. Utilisez le stockage standard pour le stockage "à chaud" auquel vous devez accéder rapidement, immédiatement et fréquemment. Utilisez le stockage d'archive pour le stockage "à froid" que vous conservez pendant de longues périodes et auquel vous accédez rarement.

  • Data Science

    Oracle Cloud Infrastructure Data Science est une plate-forme sans serveur entièrement gérée que les équipes de science des données peuvent utiliser pour créer, entraîner et gérer des modèles d'apprentissage automatique sur Oracle Cloud Infrastructure (OCI). Il peut facilement s'intégrer à d'autres services OCI tels qu'Oracle Autonomous Data Warehouse, Oracle Cloud Infrastructure Object Storage, etc. Vous pouvez créer et évaluer des modèles de machine learning de haute qualité qui augmentent la flexibilité de l'entreprise en mettant rapidement en œuvre des données fiables pour l'entreprise, et vous pouvez prendre en charge les objectifs commerciaux axés sur les données avec un déploiement plus facile des modèles de machine learning.

  • Service OCI Search avec OpenSearch

    OCI Search Service avec OpenSearch est un moteur d'informations proposé en tant que service géré par Oracle. Sans aucun temps d'arrêt, Oracle automatise l'application de patches, la mise à jour, la mise à niveau, la sauvegarde et le redimensionnement du service. Les clients peuvent stocker, rechercher et analyser rapidement d'importants volumes de données et consulter les résultats quasiment en temps réel.

  • Cache OCI avec Redis

    Oracle Cloud Infrastructure Cache with Redis est une solution complète de mise en cache gérée en mémoire reposant sur Redis open source. Ce service entièrement géré accélère les lectures et les écritures de données, ce qui améliore considérablement les temps de réponse des applications et les performances de la base de données pour offrir une expérience client améliorée.

  • Service APEX

    Oracle APEX Application Development (APEX) est une plate-forme de développement low-code qui vous permet de construire des applications d'entreprise évolutives, riches en fonctionnalités et sécurisées pouvant être déployées partout où Oracle Database est installé. Vous n'avez pas besoin d'être un expert dans une vaste gamme de technologies pour fournir des solutions sophistiquées. Le service APEX inclut des fonctionnalités intégrées, telles que des thèmes d'interface utilisateur, des contrôles de navigation, des gestionnaires de panneaux et des rapports flexibles qui accélèrent le processus de développement d'application.

  • Oracle Database 23 (recherche de vecteur d'IA)

    Oracle Database 23c fournit la base de données convergée la plus complète et la plus simple pour les développeurs qui cherchent à créer de nouveaux microservices, graphiques, documents et relationnels applications.Oracle a annoncé le plan d'ajouter des fonctionnalités de recherche sémantique à l'aide de vecteurs d'IA à Oracle Database 23c. La collection de fonctionnalités, appelée AI Vector Search, comprend un nouveau type de données vectorielles, des index vectoriels et des opérateurs SQL de recherche vectorielle qui permettent à Oracle Database de stocker le contenu sémantique de documents, d'images et d'autres données non structurées en tant que vecteurs, et de les utiliser pour exécuter des requêtes de similarité rapides. Pour plus d'informations, consultez le lien Communiqué de presse dans la section Explorer plus.

  • Transmission en continu

    Oracle Cloud Infrastructure Streaming offre une solution de stockage entièrement gérée, évolutive et durable adaptée aux flux de données importants transmis en continu, que vous pouvez utiliser et traiter en temps réel. Vous pouvez utiliser Streaming pour l'inclusion de grands volumes de données telles que les journaux d'application, les télémesures opérationnelles et les données de flux de clics sur le Web. Vous pouvez également pour d'autres cas d'emploi dans lesquels des données sont produites et traitées de manière continue et séquentielle suivant un modèle d'échange de messages de publication/souscription.

  • Evénements

    Les services Oracle Cloud Infrastructure émettent des événements structurés qui décrivent les modifications apportées dans les ressources. Les événements sont émis pour les opérations de création, de lecture, de mise à jour ou de suppression (CRUD), les modifications d'état de cycle de vie des ressources et les événements système qui affectent les ressources cloud.

  • Functions

    Oracle Cloud Infrastructure Functions est une plate-forme Functions-as-a-Service (FaaS) entièrement gérée, colocative, hautement évolutive et à la demande. Il est alimenté par le moteur open source du projet Fn. Les fonctions vous permettent de déployer votre code, et de l'appeler directement ou de le déclencher en réponse à des événements. Oracle Functions utilise des conteneurs Docker hébergés dans Oracle Cloud Infrastructure Registry.

  • API Gateway

    Oracle API Gateway vous permet de publier des API avec des adresses privées accessibles à partir de votre réseau. Si nécessaire, vous pouvez les afficher sur le réseau Internet public. Les adresses prennent en charge la validation d'API, la transformation des demandes et des réponses, la spécification CORS, l'authentification et l'autorisation, ainsi que la limitation des demandes.

  • Web Application Firewall (WAF)

    Oracle Cloud Infrastructure Web Application Firewall (WAF) est un service d'application en périphérie compatible avec le secteur des cartes de paiement (PCI) qui est attaché à un point de application, comme un équilibreur de charge ou un nom de domaine d'application Web. WAF protège les applications du trafic Internet malveillant et indésirable. WAF peut protéger toutes les adresses Internet, en assurant l'exécution cohérente des règles sur les différentes applications d'un client.

  • Région

    Une région Oracle Cloud Infrastructure est une zone géographique précise qui contient un ou plusieurs centres de données, appelés domaines de disponibilité. Les régions sont indépendantes les unes des autres et de grandes distances peuvent les séparer (à travers les pays ou même les continents).

  • Réseau cloud virtuel (VCN) et sous-réseau

    Un VCN est un réseau personnalisable défini par logiciel que vous configurez dans une région Oracle Cloud Infrastructure. Comme les réseaux de centre de données traditionnels, les réseaux cloud virtuels vous donnent un contrôle total sur l'environnement réseau. Un réseau cloud virtuel peut comporter plusieurs blocs CIDR qui ne se chevauchent pas et que vous pouvez modifier après l'avoir créé. Vous pouvez segmenter un réseau cloud virtuel en plusieurs sous-réseaux ciblant une région ou un domaine de disponibilité. Chaque sous-réseau est composé d'une plage contiguë d'adresses qui ne chevauchent pas celles des autres sous-réseaux du réseau cloud virtuel. Vous pouvez modifier la taille d'un sous-réseau après sa création. Un sous-réseau peut être public ou privé.

Recommandations

Utilisez les recommandations suivantes comme point de départ. Vos exigences peuvent différer de l'architecture décrite ici.
  • Maintenance et haute disponibilité

    L'architecture de référence utilise presque uniquement les services PaaS gérés par Oracle. Il n'est pas nécessaire d'installer, d'appliquer des patches, de mettre à jour ou de mettre à niveau le logiciel à l'aide de cette solution. Cette option est valide pour : Oracle Integration, OCI Generative AI, OCI Document Understanding, OCI Vision, Oracle Cloud Infrastructure Language, Oracle Cloud Infrastructure Data Science, OCI Object Storage, OCI Events, OCI Streaming, OCI Functions, OCI API Gateway, Oracle Cloud Infrastructure Web Application Firewall.

    Le seul composant pouvant demander votre attention est l'agent de connectivité Oracle Integration installé dans une instance de calcul pour accéder aux ressources telles que le cluster OCI OpenSearch, Autonomous Database, etc., qui résident dans un réseau privé. Suivez les directives de la documentation Oracle Integration pour rendre l'agent de connectivité Oracle Integration facile à gérer et hautement disponible.

  • Evolutivité et taille

    Cette architecture de référence utilise les services PaaS et est prête à l'emploi et évolutive pour la plupart des services qu'elle inclut. Le cluster OCI OpenSearch et le cluster OCI Cache avec Redis ne sont pas redimensionnés automatiquement (uniquement manuellement). Une mise à l'échelle adéquate de la solution est donc nécessaire en fonction de votre cas d'utilisation.

  • Connectivité

    Toutes les connexions au sein d'OCI doivent être établies via un réseau privé :

    • Vous pouvez utiliser l'option d'adresses privées ou des agents de connectivité dans Oracle Integration pour vous connecter à des services OCI privés tels qu'OCI Streaming, Oracle Autonomous Database, Oracle Database, Oracle Database Cloud Service, etc.
    • Les agents de connectivité Oracle Integration qui se connectent à des services privés tels que le cluster OCI OpenSearch, le cluster OCI Cache avec Redis, etc., doivent être installés dans une machine virtuelle OCI au sein du sous-réseau privé sur lequel ces services sont déployés.
    • Les flux ou rubriques Kafka OCI Streaming que vous créez doivent être associés à un pool de flux de données déployé avec une adresse privée (associée à un sous-réseau privé dans un VCN OCI). Dans le cas de flux de données Kafka privés OCI Streaming ou de sujets tels que les rubriques de résultats d'extraction de document et d'image (reportez-vous au chargeur de données de document, d'image et d'activité ci-dessus) qui reçoivent les métadonnées des fichiers de résultats d'extraction OCI Document Understanding à partir d'événements OCI, vous pouvez utiliser OCI Functions avec OCI Events pour distribuer des messages aux adresses de diffusion en continu privées.
    • Les agents de connectivité qui se connectent à des services sur site ou cloud 3e partie (par exemple, des bases de données SQL Azure) doivent être installés dans une machine virtuelle au sein du même sous-réseau privé où ces services externes sont déployés.
  • Limitation de l'accès à une instance Oracle Integration

    Limitez les réseaux qui ont accès à votre instance Oracle Integration en configurant la liste d'autorisation Oracle Integration (anciennement une liste blanche). Seuls les utilisateurs, les systèmes des adresses IP spécifiques, les blocs CIDR (Classless Inter-Domain Routing) et les réseaux cloud virtuels que vous spécifiez peuvent accéder à l'instance Oracle Integration.

    Dans cette architecture de référence, Oracle Integration Allowlist peut restreindre l'accès à l'instance Oracle Integration, autorisant uniquement les demandes lancées par les applications cloud déployées sur OCI, les applications Oracle SaaS, les applications non Oracle Cloud, le Web sur site, Saas, les applications cloud et les OCID VCN associés aux machines virtuelles hébergeant les agents de connectivité Oracle Integration.

Points à prendre en compte

Tenez compte des points suivants lors du déploiement de cette architecture de référence.

  • Sécurité

    Les clusters d'IA dédiés dans OCI Generative AI sont des ressources de calcul que vous pouvez utiliser pour affiner des modèles LLM personnalisés ou pour héberger des adresses pour des modèles LLM personnalisés. Les clusters sont dédiés à vos modèles et ne sont pas partagés avec les utilisateurs d'autres locations. L'utilisation du modèle personnalisé OCI Generative AI vous permet d'affiner les modèles à l'aide de vos propres données. Sinon, vous pouvez utiliser vos propres données en implémentant la génération augmentée d'extraction (RAG) combinant des techniques d'intégration, d'indexation, etc. à l'aide de modèles OCI Generative AI à la demande, de banques de vecteurs (par exemple, OCI Vector Search, Open Search, etc.).

    Utilisez les stratégies Oracle Cloud Infrastructure Identity and Access Management (OCI IAM) pour contrôler qui peut accéder à vos ressources cloud (par exemple, Oracle Integration, OCI Language, OCI Vision, service OCI Generative AI, OCI Streaming, instances de calcul OCI, etc.) et quelles opérations peuvent être effectuées. Pour protéger les mots de passe de base de données ou toute autre clé secrète, envisagez d'utiliser le service OCI Vault.

    Les documents et les images sont stockés dans des buckets OCI Object Storage privés. Un lien temporaire de courte durée est créé lorsqu'un utilisateur clique sur le document dans l'interface utilisateur du moteur de recherche de la base de connaissances. Utilisez les filtres et les règles Oracle Cloud Infrastructure Web Application Firewall (WAF) pour protéger les flux d'orchestration déclenchés par REST Oracle Integration exposés via OCI API Gateway contre les attaques malveillantes telles que les attaques DDO, les threads d'injection SQL, etc.

  • Evolutivité

    Lors de la création de flux ou de rubriques OCI Streaming, les administrateurs indiquent le nombre de flux qu'ils prévoient d'utiliser. Des flux de données peuvent être créés par domaine fonctionnel (par exemple, InvoiceStream, PurchaseOrderStream, etc.). Les administrateurs spécifient également les partitions qu'ils prévoient d'utiliser par flux ou sujet. Les partitions vous permettent de distribuer un flux, une rubrique en divisant les messages sur plusieurs noeuds, ce qui permet à plusieurs destinataires de lire un flux, une rubrique en parallèle (dans ce cas, vous pouvez disposer de plusieurs clones du même flux d'intégration de destinataire dans Oracle Integration, chacun lisant à partir d'une partition différente d'un flux ou d'un sujet à l'aide de l'adaptateur OCI Streaming en tant que déclencheur).

    Lors de la création d'instances Oracle Integration, les administrateurs spécifient le nombre de packs de messages qu'ils prévoient d'utiliser par instance.

  • Limites de ressources

    Tenez compte des meilleures pratiques, des limites par service et des quotas de compartiment pour votre location.

En savoir plus

Consultez ces ressources supplémentaires pour en savoir plus sur les fonctionnalités de cette architecture de référence.

OCI Generative AI

Oracle Integration

Compréhension des documents OCI AI

OCI AI Language

OCI - IA - Vision

Oracle Cloud Infrastructure

Remerciements

  • Author: Juan Carlos González Carrero
  • Contributors: Bob Peulen, Alexandru Negrea