Manejo de datos en IA generativa

Modelos importados

¿Se envían mis solicitudes de inferencia a Hugging Face?

Las solicitudes de inferencia se ejecutan en el cluster de AI dedicado que aloja el modelo importado. La importación de un modelo desde Hugging Face recupera artefactos de modelo para el despliegue. No envía solicitudes de inferencia a Hugging Face. Consulte Compatible Models for Import.

¿Se mantienen o se utilizan mis peticiones de datos y respuestas para el entrenamiento del modelo?

El servicio no retiene las peticiones de datos y las respuestas como parte de la inferencia del modelo. Los proveedores de modelos no los utilizan para su propio entrenamiento de modelos, mejora de modelos u otros fines independientes.

Puede guardar respuestas, conversaciones, archivos o memoria para su aplicación mediante las funciones de OCI. Para obtener información sobre cómo gestionar este contenido, consulte Respuestas Almacenadas, Conversaciones, Archivos y Memoria.

¿Necesito proporcionar datos de entrenamiento al importar un modelo?

El flujo de trabajo de importación necesita archivos de modelo, como pesos, configuración y archivos de tokenizador. No necesita el juego de datos utilizado para entrenar el modelo.

Puede importar un modelo compatible que ajuste fuera del servicio. OCI Generative AI no ajusta los modelos importados. Consulte Importación de modelos ajustados.

¿Puedo suprimir el modelo importado?

Puede suprimir el recurso de modelo importado. Este recurso se gestiona por separado de las solicitudes de inferencia individuales. Consulte Supresión de un modelo importado.

Modelos previamente entrenados y ajustados en clusters de IA dedicados

¿Se envían mis peticiones a un proveedor de modelos externo?

El modelo procesa las peticiones de datos en el cluster de IA dedicado y no se envían a un proveedor externo para la inferencia. El cluster está dedicado a sus modelos y no se comparte con otros clientes. Consulte Dedicated AI Clusters.

¿Se mantienen o se utilizan mis peticiones de datos y respuestas para el entrenamiento del modelo?

El servicio no retiene las peticiones de datos y las respuestas como parte de la inferencia del modelo. Los proveedores de modelos no los utilizan para su propio entrenamiento de modelos, mejora de modelos u otros fines independientes.

Puede guardar respuestas, conversaciones, archivos o memoria para su aplicación mediante las funciones de OCI. Para obtener información sobre cómo gestionar este contenido, consulte Respuestas Almacenadas, Conversaciones, Archivos y Memoria.

¿Qué modelo puedo ajustar en OCI Generative AI?

Actualmente, el único modelo disponible para el ajuste en el servicio es el modelo estándar Meta Llama 3.3 (70B) (meta.llama-3.3-70b-instruct). El ajuste está disponible en las regiones comerciales soportadas (OC1). La variante FP8 dinámica no está disponible para el ajuste.

¿El servicio conserva mis datos de formación después del ajuste?

El servicio suprime los datos de entrenamiento del cluster de ajuste cuando finaliza el trabajo de entrenamiento. El juego de datos de origen permanece en el cubo de Object Storage, donde lo gestiona. También puede gestionar el modelo personalizado resultante como un recurso independiente.

¿Se comparten mis datos de entrenamiento o mi modelo personalizado con los proveedores de modelos?

El servicio no comparte sus datos de entrenamiento de ajuste ni su modelo personalizado de ajuste con proveedores de modelos de terceros. Utiliza tus datos de entrenamiento solo para crear tu modelo personalizado y no los utiliza para mejorar los modelos generales de OCI Generative AI. Consulte Ajuste de los modelos base en la IA generativa.

¿Están cifrados mis datos de entrenamiento?

Los datos de entrenamiento de ajuste se cifran de forma estática y en tránsito. Para obtener detalles sobre el cifrado y la gestión de claves, consulte Cifrado.

Modelos bajo demanda

¿Cómo puedo saber si mi modelo realiza llamadas a un proveedor externo?

Busque su modelo y la región de OCI que atiende su solicitud en Modelos por región. Si utiliza un perfil de enrutamiento, compruebe sus regiones de OCI de destino. Las notas de visitas externas identifican modelos, incluidos Google Gemini y xAI Grok, cuyas solicitudes se envían a un proveedor externo para su procesamiento.

Google Gemini y xAI Grok

¿Mis peticiones de datos se envían a Google o xAI?

Cuando llamas a estos modelos a través de OCI Generative AI, el servicio envía el contenido de tu solicitud a Google o xAI para su procesamiento en la plataforma del proveedor y te devuelve la respuesta generada.

¿Puede Google o xAI conservar mis peticiones de datos y respuestas o utilizarlas para el entrenamiento de modelos?

Oracle tiene acuerdos contractuales de retención de datos cero con Google y xAI para modelos a los que se accede a través de OCI Generative AI. En virtud de estos acuerdos, los proveedores utilizan peticiones de datos y respuestas de clientes solo para procesar solicitudes y entregar respuestas. No retienen este contenido después de procesar las solicitudes ni lo utilizan para su propio entrenamiento de modelos, mejora de modelos u otros fines independientes.

¿OCI Generative AI conserva mis peticiones de datos y respuestas?

El servicio no retiene las peticiones de datos y las respuestas como parte de la inferencia del modelo.

Puede guardar respuestas, conversaciones, archivos o memoria para su aplicación mediante las funciones de OCI. Para obtener información sobre cómo gestionar este contenido, consulte Respuestas Almacenadas, Conversaciones, Archivos y Memoria.

¿Dónde procesan Google y xAI mis solicitudes?

La ubicación de procesamiento depende del modelo y la región de OCI que atiende su solicitud. Si utiliza un perfil de enrutamiento, utilice las notas de la región de OCI de destino que atiende la solicitud. Esto puede diferir de la región en la que crea o llama al perfil. Consulte las ubicaciones de procesamiento y enrutamiento específicas del modelo en Notas para llamadas externas.

Cohere, Meta Llama y OpenAI gpt-oss

¿Se envían mis solicitudes de inferencia a un proveedor de modelos externo?

Los modelos Cohere, Meta Llama y OpenAI gpt-oss que se ofrecen en modo bajo demanda están alojados en OCI Generative AI. El servicio procesa sus solicitudes sin enviarlas a un proveedor externo para su inferencia. Para conocer los modelos y regiones admitidos, consulte Modelos por región.

¿Se mantienen o se utilizan mis peticiones de datos y respuestas para el entrenamiento del modelo?

El servicio no retiene las peticiones de datos y las respuestas como parte de la inferencia del modelo. Los proveedores de modelos no los utilizan para su propio entrenamiento de modelos, mejora de modelos u otros fines independientes.

Puede guardar respuestas, conversaciones, archivos o memoria para su aplicación mediante las funciones de OCI. Para obtener información sobre cómo gestionar este contenido, consulte Respuestas Almacenadas, Conversaciones, Archivos y Memoria.

Modelos bajo demanda a través de perfiles de enrutamiento

¿Qué reglas de manejo de datos se aplican al llamar a un modelo a demanda desde una región sin procesamiento de modelo local?

Se aplican las reglas de manejo de datos bajo demanda para el modelo seleccionado en el perfil de enrutamiento. El perfil direcciona la solicitud a una de las regiones de OCI de destino que seleccione. En el caso de los modelos que realizan llamadas a un proveedor externo, revise las notas de Llamadas externas para ese modelo y la región de OCI de destino que atiende la solicitud.

Por ejemplo, desde el este de Australia (Sídney), puede crear un perfil de enrutamiento con Japan Central (Osaka) como única región de OCI de destino y seleccionar uno de estos modelos:

Para conocer los modelos soportados y las regiones de OCI de destino, consulte Modelos por región. Si selecciona varias regiones de OCI de destino, compruebe las notas de Llamadas externas para cada región. Para obtener instrucciones de enrutamiento, consulte Regions with no Local Model Processing.

Respuestas Almacenadas, Conversaciones, Archivos y Memoria

¿Qué sucede cuando elijo guardar respuestas, conversaciones, archivos o memoria?

Puede crear un proyecto de agentes de IA empresarial en un compartimento de su arrendamiento de OCI y seleccionar las funciones que necesita su aplicación. Cuando utiliza funciones que guardan respuestas o conversaciones, cargan archivos o activan la memoria a largo plazo, está eligiendo retener contenido para su aplicación. OCI guarda este contenido como parte de su proyecto para que su aplicación pueda recuperarlo o reutilizarlo.

Configure cuánto tiempo se conservan las respuestas y las conversaciones. Puede elegir los archivos que desea cargar y gestionar a través de la API de archivos. Si activa la memoria a largo plazo, el servicio guarda la información de las conversaciones para utilizarla en futuras interacciones dentro del proyecto. Consulte Creating a Project, Data Retention, Agent Memory y Files API.

¿Puedo guardar contenido en mi proyecto cuando uso Google Gemini o xAI Grok?

Puede guardar contenido para su aplicación mediante las funciones de proyecto de OCI. Los acuerdos de retención de datos cero de Oracle con Google y xAI rigen el contenido que procesan esos proveedores cuando llamas a sus modelos. El contenido que elija guardar en OCI se gestiona como datos de proyecto y sigue la configuración de almacenamiento y retención de OCI aplicable.

Cifrado

¿Cómo se protegen los datos de entrenamiento?

Los datos de formación se cifran en modo estático y en tránsito. El servicio suprime los datos de entrenamiento del cluster de ajuste tan pronto como finaliza el trabajo de entrenamiento.

Los datos de entrenamiento para ajustar un modelo siempre están doblemente cifrados, por defecto, por el cifrado AES-256 gestionado por Oracle y, opcionalmente, por las claves privadas gestionadas por el cliente a través del servicio OCI Vault. Puede eliminar los datos en cualquier momento.

Oracle cifra los datos en movimiento con TLS 1.2.