Implementar Casos de Uso de ML como Pacotes de Aplicativos de ML

Os provedores que desenvolvem uma nova Implementação de Aplicativo de ML precisam criar um novo pacote de aplicativos correspondente à implementação.

O Pacote de Aplicativos permite o empacotamento padrão da funcionalidade ML de uma forma independente do ambiente e da região. Isso o torna uma solução portátil que pode ser usada em qualquer tenancy, região ou ambiente. As dependências de infraestrutura (por exemplo, VCN e OCIDs de Log) específicas de uma região ou ambiente são fornecidas como argumentos de Pacote durante o processo de upload.

Os pacotes contêm todos os detalhes de implementação de um Aplicativo ML, como o Terraform, por exemplo, componentes e componentes do aplicativo, um descritor contendo informações de versão de implementação, um esquema de configuração e muito mais. Esses pacotes podem ser carregados ou implantados em recursos existentes de Implementação de Aplicativo de ML e, quando uma nova versão de um pacote é carregada, o serviço Aplicativos de ML cria automaticamente uma nova Versão de Implementação de Aplicativo de ML e inicia uma atualização de todas as Instâncias de Aplicativo de ML que usam o pacote.

A configuração do Terraform para todos os componentes do aplicativo está presente no diretório application_components do pacote de aplicativos. Da mesma forma, o Terraform de todos os componentes de instância está presente no diretório instance_components.

Neste exemplo, o job de ML é um componente do aplicativo e a configuração do Terraform para criar o job de ML faz parte do diretório application_components no pacote de aplicativos. À medida que o treinamento real acontece nos dados do consumidor, o treinamento é acionado quando uma nova Instância do Aplicativo ML da Implementação do Aplicativo ML é provisionada. Quando uma nova Instância do Aplicativo ML é criada, um novo processamento de job é criado e acionado, que carrega dados do bucket do Object Storage do consumidor no bucket do Object Storage do provedor, treina o modelo, armazena o modelo no catálogo de modelos e, em seguida, implanta o modelo. É necessário criar uma nova execução de job para cada instância (cliente). A execução do job é um componente de instância. Além disso, o bucket do Object Storage de destino é criado para cada instância, por isso é um componente de instância. Da mesma forma, a implantação de modelo também é um componente de instância.

A configuração do Terraform para componentes de aplicativos e componentes de instâncias pode ser parametrizada. Todos esses parâmetros necessários para o provisionamento de Aplicativos ML e Instância de Aplicativo ML podem ser especificados no arquivo descriptor.yaml. Por exemplo, a imagem do docker a ser usada com a execução do job pode ser parametrizada. O projeto do Data Science no qual o job deve ser criado pode ser parametrizado. Todos esses parâmetros que pertencem aos componentes do aplicativo e são necessários ao provisionar novas implementações podem ser especificados em packageArguments no arquivo descriptor.yaml. Em geral, o packageArguments pode ser usado para fornecer valores específicos do ambiente, como OCIDs de infraestrutura e alguns valores de dimensionamento específicos do ambiente.

Da mesma forma, o nome do bucket do sistema operacional de origem (da tenancy do consumidor) é necessário ao criar uma Instância do Aplicativo ML e pode ser diferente de instância para instância (do consumidor para o consumidor). Portanto, esse pode ser um parâmetro cujo valor é fornecido pelo consumidor durante a criação da Instância do Aplicativo ML. Todos esses parâmetros podem ser definidos em configurationSchema no arquivo descriptor.yaml.

Assim, a estrutura final de um diretório de pacote do Aplicativo é semelhante à seguinte:

• <ml-app-package-name>-<version>.zip
  • application_components: o diretório com todas as definições de componentes do aplicativo.
  • instance_components: o diretório com todas as definições de componente da instância.
  • descriptor.yaml: o arquivo de descritor de pacote.
  • *.trigger.yaml: o arquivo de definição do trigger.

Algumas observações importantes sobre a estrutura do pacote do Aplicativo:

• Os componentes Aplicativo e Instância devem ser definidos nos diretórios correspondentes.
• Os diretórios application_components e instance_components são opcionais. Um pacote de aplicativos sem um diretório application_components ou instance_components é válido.
• Os diretórios devem ser nomeados exatamente (minúsculas) como application_components e instance_components.
• Os componentes cuja configuração do Terraform não está presente no diretório application_components não são considerados componentes do aplicativo.
• Os componentes cuja configuração do Terraform não está presente no diretório instance_components não são considerados componentes de instância.
• No momento, nem todos os recursos do OCI são suportados como componentes de aplicativo ou instância.
• Um Job do Data Science é o componente de aplicativo suportado, enquanto o modelo do Data Science, a implantação do modelo, a execução do job, o bucket do Object Storage e o objeto são os componentes de instância suportados.

A próxima seção descreve o esquema do arquivo de descritor de pacote com mais detalhes.