Diese Abbildung zeigt eine Pipeline für automatisierte MLOps (Machine Learning Operations) auf Oracle Cloud Infrastructure (OCI), die Internetteilnehmer mit verwalteten DevOps- und Data Science-Services für eine Availability-Domain verknüpft.
- Internetteilnehmer: Kunden senden Inferenzanforderungen an Oracle Cloud Infrastructure Web Application Firewall. Codeentwickler pushen Code an ein Code-Repository, das von Oracle Cloud Infrastructure DevOps verwendet wird. Data Scientists und ML-Entwickler interagieren mit Oracle Cloud Infrastructure Data Science.
- OCI-Region
- Compartment: Stellt Governance und gemeinsame Policys für die MLOps-Workloads in dieser Region bereit.
- Availability-Domain: Stellt isolierte Compute-Kapazität bereit, die das MLOps-Netzwerk und die Endpunkte betreibt.
- Oracle Services Network bietet:
- Oracle Cloud Infrastructure Identity and Access Management
- Oracle Cloud Infrastructure Vault
- Oracle Cloud Infrastructure Logging
- Oracle Cloud Infrastructure Monitoring
- Oracle Cloud Infrastructure Notifications
- Oracle Cloud Infrastructure Object Storage
- Virtuelles Cloud-Netzwerk (VCN)
- Subnetz A: Das öffentliche Subnetz führt OCI WAF, Oracle Cloud Infrastructure Load Balancer, ein Internetgateway und ein Network Address Translation-(NAT-)Gateway aus. OCI WAF filtert Anforderungen und leitet genehmigte Aufrufe an OCI Load Balancing weiter, wodurch sie über das VCN verteilt werden. Das NAT-Gateway ermöglicht es privaten Workloads, Oracle Cloud Infrastructure Registry ohne Risiko zu erreichen.
- Subnetz B: Das private Subnetz führt OCI Kubernetes Engine-Modellendpunkte, MLFlow-Endpunkte und Data Science-Jobs aus. OCI DevOps ruft das Entwicklercode-Repository ab, erstellt Containerimages und speichert sie in OCI Registry. Data Science verfolgt Experimente und fördert trainierte Modelle mit OCI DevOps-Pipelines zu den Endpunkten. Data Science-Modelle und Workload-Ergebnisse werden in OCI Object Storage gespeichert.