Tratamento de Dados no Serviço Generative AI

Suas solicitações de inferência são executadas no cluster de IA dedicado que hospeda seu modelo importado. A importação de um modelo do Hugging Face recupera artefatos de modelo para implantação. Ele não envia solicitações de inferência para Hugging Face. Consulte Modelos Compatíveis para Importação.

O serviço não mantém seus prompts e respostas como parte da inferência do modelo. Os provedores de modelo não os usam para seu próprio treinamento de modelo, melhoria de modelo ou outros fins independentes.

Você pode optar por salvar respostas, conversas, arquivos ou memória do seu aplicativo por meio dos recursos do OCI. Para saber como você gerencia esse conteúdo, consulte Respostas Armazenadas, Conversas, Arquivos e Memória.

O workflow de importação requer arquivos de modelo, como pesos, configuração e arquivos do tokenizador. Não é necessário o conjunto de dados usado para treinar o modelo.

Você pode importar um modelo compatível que foi ajustado para fora do serviço. A OCI Generative AI não ajusta os modelos importados. Consulte Importando Modelos Ajustados.

Você pode excluir o recurso de modelo importado. Você gerencia esse recurso separadamente das solicitações de inferência individuais. Consulte Excluindo um Modelo Importado.

Seus prompts são processados pelo modelo no cluster de IA dedicado e não são enviados a um provedor externo para inferência. O cluster é dedicado aos seus modelos e pode ser compartilhado com outros clientes. Consulte Clusters de IA Dedicados.

O serviço não mantém seus prompts e respostas como parte da inferência do modelo. Os provedores de modelo não os usam para seu próprio treinamento de modelo, melhoria de modelo ou outros fins independentes.

Você pode optar por salvar respostas, conversas, arquivos ou memória do seu aplicativo por meio dos recursos do OCI. Para saber como você gerencia esse conteúdo, consulte Respostas Armazenadas, Conversas, Arquivos e Memória.

Atualmente, o único modelo disponível para ajuste fino no serviço é o modelo padrão Meta Llama 3.3 (70B) (meta.llama-3.3-70b-instruct). O ajuste fino está disponível em regiões comerciais suportadas (OC1). A variante dinâmica FP8 não está disponível para ajuste fino.

O serviço exclui dados de treinamento do cluster de ajuste fino quando o job de treinamento é concluído. Seu conjunto de dados de origem permanece no bucket do Object Storage, onde você o gerencia. Você também gerencia o modelo personalizado resultante como um recurso separado.

O serviço não compartilha seus dados de treinamento de ajuste fino ou modelo personalizado de ajuste fino com provedores de modelos de terceiros. Ele usa seus dados de treinamento apenas para criar seu modelo personalizado e não os usa para melhorar os modelos gerais da OCI Generative AI. Consulte Ajustando os Modelos Base no Serviço Generative AI.

Seu ajuste fino de dados de treinamento é criptografado em repouso e em trânsito. Para obter detalhes sobre criptografia e gerenciamento de chaves, consulte Criptografia.

Localize seu modelo e a região da OCI que atende à sua solicitação em Modelos por Região. Se você usar um perfil de rota, verifique suas regiões de destino do OCI. As notas Chamadas Externas identificam modelos, incluindo o Google Gemini e o xAI Grok, cujas solicitações são enviadas a um provedor externo para processamento.

Aplicam-se as regras de tratamento de dados sob demanda para o modelo selecionado em seu perfil de rota. O perfil roteia sua solicitação para uma das regiões do OCI de destino selecionadas. Para modelos que fazem chamadas para um provedor externo, revise as observações Chamadas Externas desse modelo e da região de destino do OCI que atende à solicitação.

Por exemplo, no Leste da Austrália (Sydney), você pode criar um perfil de rota com a Japan Central (Osaka) como sua única região de destino da OCI e selecionar um destes modelos:

• Google Gemini 2.5 Pro: As regras de tratamento de dados do Google Gemini e do xAI Grok se aplicam. As solicitações passam pela OCI Osaka para um local da Google Ásia-Pacífico. O processamento de aprendizado de máquina do Google pode ocorrer em qualquer local do Google globalmente, portanto, isso não garante um destino ou processamento do Google australiano na Austrália. Consulte Chamadas Externas para o Google Gemini 2.5 Pro para Regiões do AP.
• OpenAI gpt-oss-120b: Este modelo está disponível sob demanda em Osaka. A OCI Generative AI hospeda o modelo e processa sua solicitação em Osaka sem enviar a solicitação para OpenAI para inferência. As regras de tratamento de dados Cohere, Meta Llama e OpenAI gpt-oss se aplicam.

Para obter modelos suportados e regiões de destino da OCI, consulte Modelos por Região. Se você selecionar várias regiões do OCI de destino, verifique as observações de Chamadas Externas para cada região. Para obter instruções de roteiro, consulte Regions with no Local Model Processing.

Você cria um projeto do Enterprise AI Agents em um compartimento na sua tenancy do OCI e escolhe os recursos de que seu aplicativo precisa. Ao usar recursos que salvam respostas ou conversas, carregam arquivos ou permitem memória de longo prazo, você está optando por manter o conteúdo do seu aplicativo. O OCI salva esse conteúdo como parte do seu projeto para que seu aplicativo possa recuperá-lo ou reutilizá-lo.

Você configura por quanto tempo as respostas e conversas são mantidas. Você escolhe quais arquivos fazer upload e gerenciar por meio da API de Arquivos. Se você ativar a memória de longo prazo, o serviço salvará informações de conversas para uso em futuras interações dentro do projeto. Consulte Criando um Projeto, Retenção de Dados, Memória do Agente e API de Arquivos.

Você pode optar por salvar o conteúdo do seu aplicativo por meio dos recursos do projeto do OCI. Os acordos de Retenção de Dados Zero da Oracle com o Google e a xAI controlam o conteúdo que esses provedores processam quando você chama seus modelos. O conteúdo que você optar por salvar no OCI é gerenciado como dados do projeto e segue as configurações aplicáveis de armazenamento e retenção do OCI.

O treinamento de dados é criptografado em repouso e em trânsito. O serviço exclui os dados de treinamento do cluster de ajuste fino assim que o job de treinamento é concluído.

Os dados de treinamento para ajuste fino de um modelo são sempre criptografados duas vezes, por padrão, pela criptografia AES-256 gerenciada pela Oracle e, opcionalmente, por chaves privadas gerenciadas pelo cliente por meio do serviço OCI Vault. Você pode excluir os dados a qualquer momento.

A Oracle criptografa dados em movimento com o TLS 1.2.