Aprendiendo IA
El millón de tokens se reparte
Al trabajar con documentos largos, no basta con comprobar que caben. Según la documentación de Google, Gemini 4 Argon comparte su ventana entre entrada, razonamiento y respuesta: conviene contar lo que envías y dejar espacio para lo que viene después.
En resumen
- Los documentos de entrada comparten espacio con el razonamiento y la respuesta.
- count_tokens permite medir la entrada antes de enviarla.
- Ampliar el límite de generación deja más margen, pero no garantiza una respuesta de la longitud deseada.
Una ventana para todo
Piensa en el documento y en el trabajo pendiente como partes del mismo presupuesto. Si ocupas más espacio con la entrada, queda menos para razonar y responder. Por eso, comprobar que el material cabe es solo el comienzo: también debes reservar margen para completar la tarea.
Esta guía aplica las condiciones documentadas para Interactions API. Úsalas al preparar una integración con el modelo; no las tomes como una descripción de los límites de una aplicación de consumo. El reparto que interesa aquí es entrada, pensamiento y texto generado.
Cuenta los documentos antes de enviarlos
Prepara la entrada que realmente quieres enviar, con los documentos y las instrucciones de la tarea. Obtén su recuento y anótalo por separado. No uses ese resultado como si describiera el consumo de toda la interacción: todavía falta lo que el modelo genere.
Con ese dato, revisa cuánto margen queda dentro de la ventana compartida. Si necesitas reservar más espacio para la generación, reduce la entrada que has preparado y vuelve a contarla. La decisión práctica es cuánto material enviar dejando sitio para el trabajo posterior.
Reserva para pensar y responder
| Configuración | Límite en tokens |
|---|---|
| background: false | 65.536 |
| background: true sin fijar max_output_tokens | 65.536 |
| background: true y max_output_tokens mayor que 65.536 | El valor fijado, hasta 1.048.576 menos la entrada |
Elige el régimen de ejecución con la tabla. Activar el segundo plano por sí solo no amplía el límite habitual: también hay que elevar el parámetro de generación. Incluso entonces, la entrada sigue restando espacio disponible.
Revisa además el límite que pueda estar fijado en la herramienta con la que trabajas. El modelo puede consumir todo el presupuesto pensando y devolver texto vacío. Reservar hueco establece un techo de consumo; no asegura una cantidad de texto visible ni que se cumpla una extensión pedida.
Ejercicio: distingue espacio y acumulación
| Medida | Tokens |
|---|---|
| Entrada inicial | 1.000 |
| Razonamiento y salida | 200.000 |
| Contexto real aproximado | 201.000 |
| Entrada acumulada de los cuatro saltos | 397.216 |
En este ejemplo didáctico de la documentación, ¿caben una entrada de 1.000 tokens y 200.000 tokens de razonamiento y salida en la ventana compartida de 1.048.576 tokens? Suma ambos valores y compáralos con el límite. Si tus documentos ocupan el margen que necesitas reservar para el razonamiento y la salida, reduce la entrada o ajusta esa reserva. Es un ejercicio basado en la documentación, no una prueba ejecutada ni una garantía de lo que devolverá una petición.
La comprobación consiste en explicar por qué las últimas filas miden cosas distintas. Para estimar el contexto, suma el tamaño de la petición inicial, total_output_tokens y total_thought_tokens. No decidas recortar los documentos basándote solo en total_input_tokens: suma entradas de los sucesivos saltos.
Conclusión
Antes de enviar documentos, cuenta la entrada y revisa el margen para razonar y responder. Al leer los resultados, distingue el contexto ocupado de los contadores acumulados. Ese reparto permite preparar el presupuesto, pero no garantiza la respuesta deseada.
Fuentes primarias
La continuación natural
Aprende IA a tu ritmo con nuestros cursos gratuitos.
En nuestra plataforma de aprendizaje TAKU podrás acceder a este y muchos otros cursos de manera totalmente gratuita.
APRENDER CON TAKU
Comentarios