Documentación de Oracle Cloud Infrastructure

Creación de incrustaciones de texto en IA generativa

Use los modelos embebidos de Cohere en OCI Generative AI para convertir texto en incrustaciones vectoriales para usar en aplicaciones para búsquedas semánticas, clasificación de texto o agrupación de clusters de texto.

Los datos de entrada para incrustaciones de texto deben tener los siguientes requisitos:

  • Puede agregar frases, frases o párrafos para incrustar una frase a la vez o cargando un archivo.
  • Solo se permiten los archivos con extensión .txt.
  • Si utiliza un archivo de entrada, cada frase, frase o párrafo de entrada del archivo debe estar separado por un carácter de nueva línea.
  • Se permiten un máximo de 96 entradas para cada ejecución.
  • En la consola, cada entrada debe tener menos de 512 tokens para los modelos de solo texto.
  • Si una entrada es demasiado larga, seleccione si desea cortar el inicio o el final del texto para que se ajuste al límite de token mediante la definición del parámetro Truncar en Iniciar o Fin. Si una entrada supera el límite de token 512 y el parámetro Truncar se define en Ninguno, aparece un mensaje de error.
  • Para los modelos de texto e imagen, puede tener archivos e entradas que suman hasta 128.000 tokens.
  • Para los modelos de incrustación de texto e imagen, como Cohere Embed English Image V3, puede agregar texto o agregar solo una imagen. Para la imagen, puede utilizar API. La entrada de imagen no está disponible en la consola. Para API, introduzca una imagen codificada base64 en cada ejecución. Por ejemplo, una imagen de 512 x 512 se convierte en aproximadamente 1.610 tokens.
    1. En la barra de navegación de la consola, seleccione una región con IA generativa, por ejemplo, Medio oeste de EE. UU. (Chicago). Consulte qué modelos se ofrecen en su región.
    2. Abra el menú de navegación y seleccione Análisis e IA. En Servicios de IA, seleccione IA generativa.
    3. Seleccione un compartimento en el que tenga permiso para trabajar. Si no ve el patio de recreo, pida a un administrador que le otorgue acceso a los recursos de IA generativa y, a continuación, vuelva a los siguientes pasos.
    4. Seleccione Playground.
    5. Seleccione Embebido.
    6. Seleccione un modelo para crear incrustaciones de texto mediante una de las siguientes acciones:
      • En la lista Modelo, seleccione un modelo.
      • Seleccione Ver detalles de modelo y, a continuación, seleccione Seleccionar modelo.
    7. (Opcional) Para utilizar un ejemplo de la lista Ejemplo, realice los siguientes pasos:
      1. Seleccione un ejemplo de la lista Ejemplo.
      2. Seleccione Ejecutar para generar incrustaciones para el ejemplo.
      3. Revise una versión bidimensional de la salida en la sección Proyección de vector de salida.

        Para visualizar la salida con incrustaciones, los vectores de salida se proyectan en dos dimensiones y se representan como puntos. Los puntos que están juntos corresponden a frases que el modelo considera similares.

      4. Seleccione Borrar para eliminar todas las oraciones y empezar a generar incrustaciones para nuevas oraciones.
    8. (Opcional) Agregue una imagen .png o .jpg con un tamaño de 5 MB o menos.
      Solo se permite una imagen.
    9. En el área Entrada de frase, introduzca texto de una de las siguientes maneras:
      • Escriba una frase en el cuadro 1. y, a continuación, seleccione Agregar frase para agregar más frases.
      • Seleccione Cargar archivo y seleccione un archivo con el texto que desea agregar.
      Nota

      Solo se permiten los archivos con una extensión .txt. Cada frase, frase o párrafo de entrada se debe separar con un carácter de nueva línea. Se permite un máximo de 96 entradas para cada ejecución y cada entrada debe ser inferior a 512 tokens. Puede agregar oraciones manualmente o cargar más de un archivo hasta que alcance el número máximo de entradas.
    10. Para el parámetro Truncar, seleccione si desea truncar los tokens de inicio o finalización cuando los tokens superen el número máximo de tokens permitidos (512).
      Consejo

      Para las entradas que superen los 512 tokens, si define el parámetro Truncar en Ninguno, aparecerá un mensaje de error. Antes de ejecutar un modelo de embebido, seleccione Iniciar o Fin para el parámetro Truncar.
    11. Seleccione Ejecutar.
    12. Revise una versión bidimensional de la salida en la sección Proyección de vector de salida.
      Para visualizar las salidas con incrustaciones, los vectores de salida se proyectan en dos dimensiones y se trazan como puntos. Los puntos que están juntos corresponden a frases que el modelo considera similares.
    13. Cuando esté satisfecho con el resultado, seleccione Exportar incrustaciones a JSON para obtener un archivo JSON que contenga un vector de 1024 dimensiones para cada entrada.
    14. (Opcional) Seleccione Ver código, seleccione un lenguaje de programación o marco, seleccione Copiar código y pegue el código en un archivo. Asegúrese de que el archivo mantenga el formato del código pegado.
      Consejo

      Si utiliza el código en una aplicación:

    15. (Opcional) Seleccione Borrar para eliminar todas las oraciones y empezar a generar incrustaciones para nuevas oraciones.
      Nota

      Al seleccionar Borrar, el parámetro Truncar se restablece a su valor por defecto de Ninguno.

  • Para crear incrustaciones de texto, utilice la operación embed-text-result.

    Introduzca el siguiente comando para obtener una lista de opciones para crear incrustaciones de texto.

    oci generative-ai-inference embed-text-result embed-text -h

    Para obtener una lista completa de parámetros y valores para los comandos de la CLI de OCI Generative AI, consulte CLI de inferencia de IA generativa y CLI de gestión de IA generativa.

  • Ejecute la operación EmbedText para crear incrustaciones de texto.

    Para obtener más información sobre el uso de la API y la firma de solicitudes, consulte la documentación de la API de REST y Credenciales de seguridad. Para obtener información sobre los SDK, consulte Los SDK y la CLI.