A imagem mostra um workflow de huggingface_hub Model Hub Meta Llama 3
até o OCI Object Storage em uma Região do OCI.
A Região do OCI hospeda o OCI Object Storage com uma seta para o OCI Registry e uma VCN. O OCI Object Storage e o OCI Registry têm setas para o Cluster de IA. A VCN hospeda um Cluster de IA com o OCI Kubernetes Engine que se conecta a dois AMD GPU BM.GPU.MI300X.8
, cada um com seus próprios OCI Block Volumes.
O OCI Kubernetes Engine tem uma seta da região da OCI para um Ponto Final de Inferência.