Die Abbildung zeigt einen Workflow von huggingface_hub Model Hub Meta Llama 3
zu OCI Object Storage in einer OCI-Region.
In der OCI-Region wird OCI Object Storage mit einem Pfeil zu OCI Registry und einem VCN gehostet. OCI Object Storage und OCI Registry weisen Pfeile zum AI-Cluster auf. Das VCN hostet ein KI-Cluster mit OCI Kubernetes Engine, das eine Verbindung zu zwei AMD GPU BM.GPU.MI300X.8
mit jeweils eigenen OCI Block Volumes herstellt.
OCI Kubernetes Engine weist einen Pfeil aus der OCI-Region zu einem Inferenzendpunkt auf.