Déploiement d'un pipeline d'analyse multicloud avec Microsoft Azure Synapse et Oracle Autonomous Database

Un déploiement cloud est le reflet de l'environnement informatique hétérogène des entreprises. Les entreprises souhaitent optimiser les performances en matière de coûts et utiliser les meilleurs services lors de la migration vers le cloud. Un pipeline d'analyse de données de pile divisée multicloud répond aux besoins de l'entreprise en connectant directement Azure Synapse Analytics à Oracle Autonomous Database on Shared Exadata Infrastructure via une interconnexion pour une vision commerciale en temps réel.

Cette architecture utilise Azure Integration runtime (IR) pour créer une adresse privée pour Azure Synapse Analytics. Le trafic Synapse est acheminé via l'interconnexion Oracle pour Azure privée vers l'adresse privée d'Oracle Autonomous Database on Shared Exadata Infrastructure sur OCI.

Voici certains avantages :
  • Le pipeline d'analyse de données multicloud fournit des informations commerciales en temps réel
  • Oracle Autonomous Database fournit un service géré basé sur le machine learning avec un faible coût total de possession
  • Oracle Interconnect for Azure fournit une connexion réseau privée dédiée, à bande passante élevée et à faible latence
  • Azure Synapse Analytics rassemble l'intégration des données, l'entreposage de données d'entreprise et l'analyse du Big Data

Architecture

Cette architecture présente un déploiement multicloud standard avec Oracle E-Business Suite sur Oracle Cloud Infrastructure (OCI) et Azure Synapse Analytics sur Microsoft Azure.

La pile complète Oracle E-Business Suite est déployée sur OCI. Les données de production d'Oracle E-Business Suite sont répliquées vers Oracle Autonomous Data Warehouse en temps réel à l'aide d'Oracle Cloud Infrastructure GoldenGate. Azure Synapse Analytics accède à l'entrepôt de données directement via Oracle Interconnect for Azure. Oracle Interconnect for Azure fournit une connexion dédiée, à bande passante élevée et à faible latence entre Azure et OCI.

Le diagramme suivant illustre cette architecture de référence.

Description de l'image multicloud-data-analytics-pipeline-azure.png
Description de l'illustration multicloud-data-analytics-pipeline-azure.png

multicloud-data-analytics-pipeline-azure-oracle.zip

Les utilisateurs et les applications sur site se connectent aux deux clouds via un VPN ou une connexion dédiée, telle qu'Oracle Cloud Infrastructure FastConnect ou Azure ExpressRoute.

L'interconnexion privée entre OCI et Azure utilise une adresse ou une adresse IP privée pour acheminer le trafic. Autonomous Database avec adresse privée est déployé dans une région OCI avec interconnexion avec Azure. Azure Synapse Analytics est une offre Platform-as-a-Service (PaaS) qui n'a pas d'adresse privée pour les bases de données Oracle. Cependant, Azure propose une instance Integration Runtime (IR) auto-hébergée que vous pouvez déployer sur une machine virtuelle et un pont entre Oracle Autonomous Database et Azure Synapse. Le réseau virtuel géré Azure (VNet) pour l'espace de travail Synapse ne peut pas être attaché directement à Oracle Database for Azure VNet. Une valeur VNet autogérée est requise pour déployer l'IR.

L'hôte d'exécution d'intégration auto-hébergé dispose d'une limite de bande passante réseau qui peut ne pas être suffisante pour transférer un volume élevé de données de la base de données autonome vers Azure Synapse Analytics dans la fenêtre requise. Nous vous recommandons de déployer plusieurs IR pour une haute disponibilité.

L'architecture comporte les composants suivants sur OCI :

  • Région

    Une région Oracle Cloud Infrastructure est une zone géographique localisée qui contient des centres de données, appelés domaines de disponibilité. Les régions sont indépendantes les unes des autres et de grandes distances peuvent les séparer (dans des pays voire des continents).

  • Domaines de disponibilité

    Les domaines de disponibilité sont des centres de données autonomes indépendants au sein d'une région. Les ressources physiques de chaque domaine de disponibilité sont isolées de celles des autres, ce qui garantit la tolérance aux pannes. Les domaines de disponibilité ne partagent ni infrastructure (par exemple, alimentation, système de refroidissement), ni réseau de domaine de disponibilité interne. Ainsi, il est peu probable qu'un problème survenant dans un domaine de disponibilité affecte les autres domaines de disponibilité de la région.

  • Réseau cloud virtuel (VCN) et sous-réseaux

    Un VCN est un réseau personnalisable défini par logiciel que vous configurez dans une région Oracle Cloud Infrastructure. Comme les réseaux de centre de données traditionnels, les réseaux cloud virtuels vous donnent un contrôle total sur l'environnement réseau. Un réseau cloud virtuel peut comporter plusieurs blocs CIDR qui ne se chevauchent pas et que vous pouvez modifier après l'avoir créé. Vous pouvez segmenter un réseau cloud virtuel en plusieurs sous-réseaux ciblant une région ou un domaine de disponibilité. Chaque sous-réseau est composé d'une plage contiguë d'adresses qui ne chevauchent pas celles des autres sous-réseaux du réseau cloud virtuel. Vous pouvez modifier la taille d'un sous-réseau après sa création. Un sous-réseau peut être public ou privé.

  • Service Bastion

    Oracle Cloud Infrastructure Bastion fournit un accès sécurisé limité et limité dans le temps aux ressources qui ne disposent pas d'adresses publiques et qui nécessitent des contrôles d'accès stricts aux ressources, tels que les machines virtuelles et Bare Metal, Oracle MySQL Database Service, Autonomous Transaction Processing (ATP), Oracle Container Engine for Kubernetes (OKE) et toute autre ressource qui autorise l'accès SSH (Secure Shell Protocol). Avec le service Oracle Cloud Infrastructure Bastion, vous pouvez activer l'accès aux hôtes privés sans déployer ni gérer d'hôte de saut. En outre, vous bénéficiez d'une meilleure posture de sécurité grâce aux droits d'accès basés sur l'identité et à une session SSH centralisée, auditée et liée au temps. Oracle Cloud Infrastructure Bastion élimine le besoin d'une adresse IP publique pour l'accès au bastion, ce qui élimine les problèmes et la surface d'attaque potentielle lors de l'accès à distance.

  • Programme d'équilibrage de charge

    Le service Oracle Cloud Infrastructure Load Balancing fournit une répartition de trafic automatisée à partir d'un seul point d'entrée vers plusieurs serveurs du back-end.

  • Oracle E-Business Suite

    Oracle E-Business Suite est une suite d'applications métier intégrées qui permettent aux entreprises de prendre de meilleures décisions, de réduire les coûts et d'améliorer les performances. Les produits fournissent des solutions pour la gestion de la relation client, la gestion des services, la gestion financière, la gestion du capital humain, la gestion du portefeuille de projets, l'approvisionnement avancé, la gestion de la chaîne d'approvisionnement, la planification de la chaîne de valeur et l'exécution de la chaîne de valeur.

  • Oracle E-Business Suite Cloud Manager

    Oracle E-Business Suite Cloud Manager est une application Web qui gère tous les principaux flux d'automatisation pour Oracle E-Business Suite sur Oracle Cloud Infrastructure, y compris le provisionnement de nouveaux environnements, l'exécution d'activités de gestion du cycle de vie sur ces environnements et la restauration d'environnements à partir d'environnements sur site.

    Oracle E-Business Suite Cloud Manager a été conçu pour simplifier les diverses tâches effectuées quotidiennement par les administrateurs de base de données Oracle E-Business Suite, dans le but de réduire les efforts nécessaires à leur exécution.

  • Oracle Cloud Infrastructure GoldenGate

    Oracle Cloud Infrastructure GoldenGate est un service entièrement géré qui permet l'assimilation des données à partir de sources résidant sur site ou dans n'importe quel cloud, en exploitant la technologie CDC GoldenGate pour une capture et une distribution des données non intrusives et efficaces vers Oracle Autonomous Data Warehouse en temps réel et à grande échelle afin de mettre les informations pertinentes à la disposition des consommateurs le plus rapidement possible.

  • Autonomous Database

    Oracle Autonomous Database est un environnement de base de données entièrement géré et préconfiguré que vous pouvez utiliser pour le traitement des transactions et l'entreposage de données. Il n'est pas nécessaire de configurer ou de gérer du matériel, ni d'installer un logiciel. Oracle Cloud Infrastructure gère la création de la base de données, ainsi que la sauvegarde, l'application de patches, la mise à niveau et le réglage de la base de données.

  • Data Safe

    Oracle Data Safe est un service cloud régional entièrement intégré qui fournit un ensemble complet de fonctionnalités permettant de protéger les données confidentielles et réglementées des bases de données Oracle. Data Safe prend également en charge les bases de données sur site, Oracle Exadata Database Service on Cloud@Customer et les déploiements multicloud. Tous les clients Oracle Database peuvent réduire le risque de violation de données et simplifier la conformité en utilisant Oracle Data Safe pour évaluer les risques liés à la configuration et aux utilisateurs, surveiller et auditer l'activité des utilisateurs, ainsi que pour repérer, classer et masquer les données sensibles.

  • Stockage d'objets

    Object Storage fournit un accès rapide à de grandes quantités de données, structurées ou non, de n'importe quel type de contenu, y compris des sauvegardes de base de données, des données analytiques et du contenu enrichi tel que des images et des vidéos. Vous pouvez stocker les données, puis les extraire directement à partir d'Internet ou de la plate-forme cloud, et ce, en toute sécurité. Vous pouvez redimensionner le stockage de manière transparente sans dégradation des performances ni de la fiabilité des services. Utilisez le stockage standard pour le stockage "à chaud" auquel vous devez accéder rapidement, immédiatement et fréquemment. Utilisez le stockage d'archive pour le stockage "à froid" que vous conservez pendant longtemps et auquel vous accédez rarement.

  • Audit

    Le service Oracle Cloud Infrastructure Audit enregistre automatiquement les appels vers toutes les adresses d'interface de programmation d'application publique Oracle Cloud Infrastructure prises en charge en tant qu'événements de journal. Actuellement, tous les services prennent en charge la journalisation par Oracle Cloud Infrastructure Audit.

  • Journalisation
    Logging est un service hautement évolutif et entièrement géré qui permet d'accéder aux types de journal suivants à partir des ressources du cloud :
    • Journaux d'audit : journaux liés aux événements émis par le service Audit.
    • Journaux de service : journaux émis par des services individuels tels que API Gateway, Events, Functions, Load Balancing, Object Storage et les journaux de flux VCN.
    • Journaux personnalisés : journaux contenant des informations de diagnostic issues d'applications personnalisées, d'autres fournisseurs de cloud ou d'un environnement sur site.
  • Stratégie

    Une stratégie Oracle Cloud Infrastructure Identity and Access Management spécifie qui peut accéder à quelles ressources et comment. L'accès est accordé au niveau du groupe et du compartiment, ce qui signifie que vous pouvez écrire une stratégie qui fournit à un groupe un type d'accès spécifique dans un compartiment spécifique ou dans la location.

  • Identity and Access Management (IAM)

    Oracle Cloud Infrastructure Identity and Access Management (IAM) est le plan de contrôle d'accès pour Oracle Cloud Infrastructure (OCI) et Oracle Cloud Applications. L'API IAM et l'interface utilisateur vous permettent de gérer les domaines d'identité et les ressources au sein du domaine d'identité. Chaque domaine d'identité OCI IAM représente une solution de gestion des identités et des accès autonome ou une population d'utilisateurs différente.

  • Dynamic routing gateway (DRG)

    Le DRG est un routeur virtuel qui fournit un chemin pour le trafic réseau privé entre les réseaux cloud virtuels de la même région, entre un VCN et un réseau en dehors de la région, tel qu'un VCN dans une autre région Oracle Cloud Infrastructure, un réseau sur site ou un réseau dans un autre fournisseur cloud.

  • passerelle Internet

    La passerelle Internet autorise le trafic entre les sous-réseaux publics d'un VCN et le réseau Internet public.

  • Passerelle de service

    La passerelle de service fournit l'accès d'un VCN à d'autres services, tels qu'Oracle Cloud Infrastructure Object Storage. Le trafic du VCN vers le service Oracle se déplace sur la structure réseau Oracle et ne traverse jamais Internet.

  • Pare-feu d'applications Web (WAF)

    Oracle Cloud Infrastructure Web Application Firewall (WAF) est un service PCI (Payment Card Industry), compatible avec les cartes de paiement, basé sur les régions et en périphérie, qui est attaché à un point de mise en application, tel qu'un équilibreur de charge ou un nom de domaine d'application Web. WAF protège les applications du trafic Internet malveillant et indésirable. WAF peut protéger toutes les adresses Internet, en assurant l'exécution cohérente des règles sur les différentes applications d'un client.

  • Table de routage

    Les tables de routage virtuel contiennent des règles pour acheminer le trafic des sous-réseaux vers des destinations en dehors d'un VCN, généralement via des passerelles.

  • Groupe de sécurité réseau

    Le groupe de sécurité réseau fait office de pare-feu virtuel pour vos ressources cloud. Avec le modèle de sécurité de confiance zéro d'Oracle Cloud Infrastructure, tout le trafic est refusé et vous pouvez contrôler le trafic réseau à l'intérieur d'un VCN. Un groupe de sécurité réseau se compose d'un ensemble de règles de sécurité entrantes et sortantes qui s'appliquent uniquement à un ensemble spécifié de cartes d'interface réseau virtuelles dans un seul VCN.

  • Liste de sécurité

    Pour chaque sous-réseau, vous pouvez créer des règles de sécurité qui indiquent la source, la destination et le type de trafic qui doivent être autorisés vers et depuis le sous-réseau.

L'architecture comporte les composants suivants sur Azure :

  • Azure ExpressRoute

    Microsoft Azure ExpressRoute vous permet de configurer une connexion privée entre un VNet et un autre réseau, tel que votre réseau sur site ou un réseau dans un autre fournisseur cloud. ExpressRoute est une alternative plus fiable et plus rapide aux connexions Internet classiques, car le trafic sur ExpressRoute ne traverse pas le réseau Internet public.

  • Microsoft Azure VNet

    Microsoft Azure Virtual Network (VNet) est le bloc de construction fondamental de votre réseau privé dans Azure. VNet permet à de nombreux types de ressources Azure, telles que les machines virtuelles Azure, de communiquer en toute sécurité les unes avec les autres, Internet et les réseaux sur site.

  • Exécution de l'intégration

    Integration Runtime fournit des fonctionnalités d'intégration de données sur différents réseaux avec des adresses accessibles au public.

    Les services Microsoft Azure, tels que Azure Synapse Analytics, utilisent Integration Runtime pour l'intégration des données.

  • Azure Synapse Analytics

    Azure Synapse Analytics est un service Microsoft qui fournit des analyses pour les data warehouses et les systèmes Big Data.

  • Azure Active Directory

    Azure Active Directory est un service Microsoft qui stocke des informations sur les objets sur le réseau et facilite la recherche et l'utilisation de ces informations par les administrateurs et les utilisateurs (comptes, privilèges, stratégies de sécurité, DNS, etc.). Azure Active Directory utilise un magasin de données structuré comme base pour une organisation logique et hiérarchique des informations d'annuaire.

Recommandations

Utilisez les recommandations suivantes comme point de départ. Vos besoins peuvent différer de l'architecture décrite ici.
  • Provisionnement
    • Provisionner une machine virtuelle (VM) plus grande avec une bande passante réseau plus élevée sur Azure afin d'héberger Integration Runtime (IR) et d'activer des threads parallèles pour le transfert de données entre Oracle Autonomous Data Warehouse et Azure Synapse Analytics.
    • Provisionnez plusieurs machines virtuelles sur Microsoft Azure pour une exécution d'intégration auto-hébergée afin d'éviter un point d'échec unique. La bande passante combinée des hôtes IR fournit le débit requis pour le transfert de données entre Oracle Autonomous Data Warehouse et Azure Synapse Analytics.
    • Provisionner et déployer Azure IR dans une autre zone de disponibilité Azure pour atteindre une disponibilité maximale.
    • Choisissez la taille adaptée des circuits virtuels Oracle Cloud Infrastructure FastConnect et Azure ExpressRoute pour prendre en charge la bande passante nécessaire à la charge globale.
    • Provisionnez Oracle Autonomous Data Warehouse à l'aide du réseau cloud virtuel (VCN)/sous-réseau Oracle Cloud Infrastructure (OCI) connecté à la passerelle de routage dynamique OCI (DRG) et à OCI FastConnect.
    • Configurez le routage et la sécurité/groupe de sécurité réseau sur OCI pour autoriser le trafic réseau Azure Synapse Analytics vers Oracle Autonomous Data Warehouse.
    • Pour l'adresse privée Oracle Autonomous Database on Shared Exadata Infrastructure, spécifiez la configuration VCN pour autoriser le trafic uniquement à partir du VCN spécifié. Cela bloque l'accès à la base de données à partir de tous les réseaux cloud virtuels ou adresses IP publiques.
    • VCN

      Lorsque vous créez un VCN, déterminez le nombre de blocs CIDR requis et la taille de chaque bloc en fonction du nombre de ressources que vous prévoyez d'attacher aux sous-réseaux du VCN. Utilisez des blocs CIDR situés dans l'espace d'adresses IP privées standard.

      Sélectionnez des blocs CIDR qui ne chevauchent aucun autre réseau (dans Oracle Cloud Infrastructure, votre centre de données sur site ou un autre fournisseur cloud) sur lequel vous souhaitez configurer des connexions privées.

      Après avoir créé un VCN, vous pouvez modifier, ajouter et supprimer ses blocs CIDR.

      Lorsque vous concevez les sous-réseaux, tenez compte de vos exigences en matière de sécurité et de flux de trafic. Associez toutes les ressources d'un niveau ou d'un rôle spécifique au même sous-réseau, ce qui peut servir de limite de sécurité.

Remarques

Lors du déploiement de cette architecture, tenez compte des points suivants :

  • Applications packagées

    Cette architecture utilise Oracle E-Business Suite comme exemple. Elle s'applique à d'autres applications de package, telles que PeopleSoft, JD Edwards EnterpriseOne, Siebel ou toute application 3e partie basée sur Oracle Database.

  • Oracle Autonomous Data Warehouse
    • Dimensionnez de manière appropriée la base de données Autonomous Data Warehouse avec le calcul et le stockage requis qui conviennent le mieux à la charge globale.
    • Activez le redimensionnement automatique pour la base de données Autonomous Data Warehouse afin de prendre en charge les charges de travail supplémentaires.
    • Activez la sauvegarde automatique et sélectionnez la période de conservation appropriée qui prend en charge votre activité.
    • Activez Oracle Autonomous Data Guard pour permettre à une base de données de secours (homologue) de fournir une récupération après sinistre de protection des données pour vos besoins métier.
  • Réplication de données
    • Si Oracle E-Business Suite dispose d'une instance de récupération après sinistre, vous pouvez répliquer les données de l'instance de récupération après sinistre vers Autonomous Data Warehouse pour décharger la charge globale de la base de données Oracle E-Business Suite de production.
    • Au lieu d'Oracle GoldenGate, vous pouvez utiliser Oracle Cloud Infrastructure Data Integration pour répliquer les données de la base de données Oracle E-Business Suite vers Autonomous Data Warehouse.

Accusés de réception

  • Authors: Wei Han, Niranjan Mohapatra, Ejaz Akram