xAI Grok Code Fast 1

• Nombre del modelo en OCI Generative AI: xai.grok-code-fast-1
• Disponible bajo demanda: acceda a este modelo bajo demanda, a través del patio de la consola o la API.
• Solo modo de texto: introduzca la entrada de texto y obtenga la salida de texto. No se admiten imágenes ni entradas de archivos, como archivos de audio, vídeo y documentos.
• Conocimiento: tiene un profundo conocimiento de dominio en finanzas, salud, derecho y ciencia.
• Longitud de contexto: 256 000 tokens (la petición de datos máxima + la longitud de respuesta es de 256 000 tokens para mantener el contexto). En el patio de recreo, la longitud de respuesta se limita a 16.000 tokens por cada ejecución, pero el contexto sigue siendo de 256.000 tokens.
• Excels en estos casos de uso: codificación auténtica: a diferencia de los modelos generales entrenados para escribir solo código, este modelo está optimizado para el uso de herramientas. Está entrenado para utilizar el terminal de forma autónoma, por ejemplo, ejecutar un comando grep para buscar archivos y realizar ediciones de varios pasos en un repositorio.
• Rendimiento global masivo: en el momento de su lanzamiento, este modelo era uno de los modelos más rápidos de su clase, con aproximadamente 90-100 tokens por segundo. En muchas integraciones de IDE, como Cursor o GitHub Copilot, este modelo puede realizar docenas de llamadas y ediciones de herramientas antes de terminar de leer su plan inicial.
• Rastreos de pensamiento resumidos: una de sus características más destacadas es la visibilidad de su mente. A medida que funciona, proporciona un rastro resumido en tiempo real de su razonamiento. Puede verlo pensar en un error antes de que comience a escribir la corrección, lo que le ayuda a detectar errores de lógica temprano.
• Llamadas a funciones: sí, a través de la API.
• Salidas estructuradas: sí.
• Tiene razonamiento: sí.

• Tokens de entrada almacenados en caché: sí

  • Recuento de tokens: consulte el atributo cachedTokens en la API de referencia de PromptTokensDetails.
  • Precios: consulte la página de precios.

  Nota importante: La función de entrada en caché está disponible tanto en el patio de juegos como en la API. Sin embargo, esa información solo se puede recuperar a través de la API.

• Cierre de conocimiento: sin fecha de corte conocida
• Bajo costo: en el momento de su lanzamiento era más barato que otros modelos emblemáticos.

Tokens por minuto (TPM)

Para el aumento del límite de TPM, utilice el siguiente nombre de límite: grok-code-fast-tokens-per-minute-count (para 200 000 tokens). Consulte Solicitud de aumento del límite de servicio.

Puede acceder a los modelos fundamentales previamente entrenados en IA generativa mediante dos modos: bajo demanda y dedicado.

A continuación, se muestran las funciones clave para el modo bajo demanda:

• Paga sobre la marcha por cada llamada de inferencia cuando utiliza los modelos en el patio de recreo o cuando llama a los modelos a través de la API.

• Baja barrera para empezar a utilizar la IA generativa.
• Ideal para la experimentación, la prueba de concepto y la evaluación de modelos.
• Disponible para los modelos preentrenados en regiones que no se muestran como (solo cluster de IA dedicado).

Para conocer las fechas de lanzamiento y baja y las opciones del modelo de sustitución, consulte Model Retirement Dates (On-Demand Mode).

reasoning_content

Para utilizar Rastreos de pensamiento resumidos en la API de xAI, interactúa principalmente con el campo reasoning_content. A diferencia de la respuesta final, este campo contiene la lógica interna del modelo y se transmite de vuelta a usted en tiempo real. Puede obtener su rastreo de pensamiento a través de chunk.choices[0].delta.reasoning_content en el modo de transmisión. Consulte Para desarrolladores que crean agentes de codificación mediante la API de xAI.

• Anuncio de Grok Code Fast 1
• Documentación oficial de xAI
• Referencia de API de xAI
• Tarjeta de modelo Grok Code Fast 1