Crie um recurso de cluster de IA dedicado no OCI Generative AI para usar em modelos personalizados de ajuste fino.
Importante Alguns modelos básicos pré-treinados da OCI Generative AI suportados para o
modo de serviço dedicado agora estão obsoletos e serão descontinuados no máximo 6 meses após o lançamento do 1
º modelo de substituição. Você pode hospedar um modelo base ou ajustar um modelo base e hospedar o modelo ajustado em um cluster de IA dedicado (
modo de serviço dedicado) até que o modelo base seja
retirado. Para datas de desativação do modo de serviço dedicado, consulte
Desativando os Modelos.
-
Na barra de navegação da Console, selecione uma região com o serviço Generative AI, por exemplo, US Midwest (Chicago) ou UK South (London). Consulte quais modelos são oferecidos na sua região.
-
Abra o menu de navegação e selecione Análise e IA. Em Serviços de IA, selecione IA Generativa.
-
Selecione um compartimento no qual você tenha permissão para trabalhar.
-
Clique em Clusters de IA dedicados.
-
Clique em Criar cluster de IA dedicado.
-
Selecione um compartimento no qual criar o cluster de IA dedicado. O compartimento padrão é o que você selecionou na etapa 3, mas você pode selecionar qualquer compartimento no qual tenha permissão para trabalhar.
- (Opcional) Informe um nome e uma descrição para o cluster. Se você não inserir um nome, o sistema gerará um que poderá ser alterado posteriormente.
O nome gerado tem o formato generativeaidedicatedaicluster<timestamp>.
Por exemplo: generativeaidedicatedaicluster20240601202357
-
Para Tipo de cluster, selecione Ajuste fino.
-
Para Modelo base, selecione o modelo base básico do modelo personalizado que você deseja ajustar neste cluster.
Importante O
número de unidades em um cluster de ajuste fino é predefinido e depende do modelo base básico selecionado para ajuste fino. Os clusters de ajuste fino precisam de mais recursos do que hospedar clusters porque usam mais GPUs. Você pode ajustar vários modelos no mesmo cluster, desde que os modelos personalizados treinem no mesmo modelo base básico.
-
Leia as horas da unidade de compromisso para o cluster de ajuste fino e marque a caixa de seleção para concordar com o compromisso.
- (Opcional) Clique em Mostrar opções avançadas e designe tags a este cluster dedicado do AI.
-
Clique em Criar.
Observação
Os clusters de ajuste fino levam algum tempo para serem criados. Depois que um cluster de ajuste fino estiver em um estado ativo, você poderá usá-lo para ajustar modelos personalizados. Você pode selecionar um cluster para ajuste fino ao criar um modelo personalizado.