Documentación de Oracle Cloud Infrastructure

Generar texto en IA generativa

Aloja un modelo de generación de lenguaje grande de generación de texto en OCI Generative AI en un cluster de IA dedicado para generar texto o extraer información del texto. Le recomendamos que utilice los modelos de chat en su lugar.

Importante

  • No disponible bajo demanda: todos los modelos preentrenados fundamentales de OCI Generative AI soportados para el modo de servicio bajo demanda que utilizan las API de generación y resumen de texto (incluido el patio de recreo) ahora están retirados. Le recomendamos que utilice las modelos de chat en su lugar.
  • Se puede alojar en clusters: si aloja un modelo de generación o resumen, como cohere.command, en un cluster de IA dedicado (modo de servicio dedicado), puede seguir utilizando ese modelo hasta que se reciba. Estos modelos, cuando se alojan en un cluster de IA dedicado, solo están disponibles en el medio oeste de EE. UU. (Chicago). Consulte API en desuso en la IA generativa para ver la fecha en la que las API ya no están disponibles.
    1. En la barra de navegación de la consola, seleccione la región Medio Oeste de EE. UU. (Chicago).
    2. Abra el menú de navegación y seleccione Análisis e IA. En Servicios de IA, seleccione IA generativa.
    3. Seleccione un compartimento en cuyo compartimento tenga permiso para trabajar. Si no ve el patio de recreo, solicite a un administrador que le dé acceso a los recursos de IA generativa y, a continuación, vuelva a los siguientes pasos.
    4. Seleccione Playground.
    5. Seleccione Generation (Generación).
    6. Seleccione un modelo para la generación de texto mediante una de las siguientes acciones:
      • Seleccione Ver detalles de modelo, seleccione un modelo y, a continuación, seleccione Seleccionar modelo.
    7. Introduzca una petición de datos o seleccione un ejemplo de la lista Ejemplo para utilizarlo como petición de datos base o para obtener más información.
    8. (Opcional) Defina nuevos valores para los parámetros. Para obtener más información sobre los parámetros, consulte las definiciones de parámetros para seleccionar el modelo que está utilizando, que se muestra en Pretrained Foundational Models in Generative AI.
      Nota

      Para los modelos alojados cohere.command, si selecciona Mostrar probabilidad, después de que el modelo genere una respuesta, puede pasar el mouse sobre las palabras generadas para ver los tokens y su probabilidad.
    9. Seleccione Generate (Generar).
    10. (Opcional) Para cambiar la salida, actualice las peticiones de datos y los parámetros y seleccione Generar. Repita este paso hasta que esté satisfecho con la salida.
      Nota

      Para mantener el contexto de peticiones de datos anteriores para preguntas de seguimiento, seleccione Copiar salida e incluya la salida en la siguiente petición de datos.
    11. Para copiar la salida generada, seleccione Copiar salida.

      La salida se copia en el portapapeles de la computadora.

    12. (Opcional) Para copiar el código que ha generado la salida, seleccione Ver código, seleccione un lenguaje de programación, seleccione Copiar código, pegue el código en un archivo y guarde el archivo. Asegúrese de que el archivo mantenga el formato del código pegado.
      Consejo

      Si utiliza el código en una aplicación, asegúrese de autenticar el código.
    13. (Opcional) Para iniciar una nueva petición de datos, seleccione Borrar en el área Entrada.
      Nota

      Al seleccionar Borrar, los parámetros del modelo se restablecen a sus valores por defecto.

  • Para generar texto, utilice la operación generate-text-result.

    Introduzca el siguiente comando para obtener una lista de opciones para generar texto.

    oci generative-ai-inference generate-text-result -h

    Para obtener una lista completa de parámetros y valores para los comandos de la CLI de OCI Generative AI, consulte CLI de inferencia de IA generativa y CLI de gestión de IA generativa.

  • Ejecute la operación GenerateText para generar texto.

    Para obtener más información sobre el uso de la API y la firma de solicitudes, consulte la documentación de la API de REST y Credenciales de seguridad. Para obtener información sobre los SDK, consulte Los SDK y la CLI.