Aprendiendo IA
Cómo evitar que tu IA escriba como todas
Un estudio de Jiayi Zhang y otros seis autores propone Verbalized Sampling, una estrategia de prompting que no exige reentrenar el modelo, para sortear el colapso de modo: la pérdida de diversidad que a menudo provoca el post-entrenamiento de alineamiento en los modelos de lenguaje. El origen, según Jiayi Zhang y sus coautores, está en el sesgo de tipicidad de los datos de preferencias. Los autores lo probaron en escritura creativa (poemas, relatos y chistes), simulación de diálogo y generación de datos sintéticos; esta guía traslada esas pruebas a la práctica, aunque el estudio no midió su efecto en los textos propios del lector.
En resumen
- Tras el post-entrenamiento de alineamiento, los modelos de lenguaje a menudo pierden diversidad: es el colapso de modo.
- Una causa clave, según los autores, es el sesgo de tipicidad: quienes puntúan respuestas prefieren el texto familiar.
- En escritura creativa, según los autores, pedir varias respuestas con su probabilidad multiplica la diversidad por 1,6-2,1 frente al prompt directo.
- Un consejo práctico, según la documentación de Claude: dar 3–5 ejemplos pertinentes y variados del tono buscado.
Por qué tu IA suena igual que la de todos
Que muchos textos generados con IA se parezcan tiene explicación. La propone un trabajo publicado en el repositorio arXiv con el identificador 2510.01171 y firmado por Jiayi Zhang, Simon Yu, Derek Chong, Anthony Sicilia, Michael R. Tomz, Christopher D. Manning y Weiyan Shi, de Northeastern University, Stanford University y West Virginia University. La primera versión es del 1 de octubre de 2025 y la última revisión, del 15 de julio de 2026.
Su punto de partida es conocido: el post-entrenamiento de alineamiento, la fase que ajusta un modelo para conversar, reduce a menudo su diversidad. A ese fenómeno se le llama colapso de modo.
El origen está en las preferencias humanas
| Modelo base de referencia | Peso estimado de la tipicidad |
|---|---|
| Llama-3.1-405B | 0,57 ± 0,07 |
| GLM-4.5 | 0,65 ± 0,07 |
Otros trabajos atribuían el colapso de modo a limitaciones de los algoritmos. Hay además una causa en los datos, según Jiayi Zhang y sus coautores: los anotadores favorecen de forma sistemática el texto familiar, algo que encaja con hallazgos asentados de la psicología cognitiva. Los autores formalizan ese sesgo en teoría y sostienen que desempeña un papel central en el colapso.
También lo midieron en datos de preferencias, del tipo que se usa para ajustar modelos con aprendizaje por refuerzo con retroalimentación humana (RLHF, reinforcement learning from human feedback). Estimaron cuánto pesa la tipicidad en lo que eligen las personas, con independencia de la calidad real de la respuesta, y el sesgo fue estadísticamente significativo con los dos modelos base que usaron como referencia, según Jiayi Zhang y su equipo; la tabla recoge las estimaciones. En llano: a igual calidad, quien puntúa tiende a preferir la respuesta que al modelo base le resulta más típica.
La técnica: pedir varias respuestas con su probabilidad
| Qué se midió | Resultado con VS | Comparado con |
|---|---|---|
| Diversidad | Multiplicada por 1,6-2,1 | Prompt directo |
| Diversidad valorada por evaluadores humanos | +25,7 % en las puntuaciones | Sin precisar por los autores |
La propuesta del estudio se llama Verbalized Sampling (VS). Funciona, según Jiayi Zhang y sus coautores, porque cada tipo de petición colapsa hacia un modo distinto: cuando se pide un solo texto, la respuesta modal tiende al estereotipo; cuando se pide una distribución, se acerca a la diversidad que el modelo aprendió en el preentrenamiento.
Los autores lo probaron en poemas, relatos y chistes, en simulación de diálogos y en generación de datos sintéticos. En escritura creativa, según Jiayi Zhang y su equipo, VS aumenta la diversidad sin sacrificar la precisión factual ni la seguridad; la tabla recoge las cifras que comunican.
El método no necesita acceder a las puntuaciones internas del modelo (logits), y el estudio lo probó en modelos cerrados, entre ellos varios de la serie Claude, y en modelos abiertos. Además, se puede combinar con la temperatura y otros parámetros de muestreo.
Practica con tu próximo texto
| Paso | Qué pides (ejemplo didáctico) | Qué observar |
|---|---|---|
| Petición directa | Escribe el primer párrafo de un relato sobre un faro. | El tono, las imágenes y la estructura que salen por defecto. |
| Varias respuestas con su probabilidad | Escribe cinco primeros párrafos distintos de un relato sobre un faro e indica la probabilidad que asignas a cada uno. | Si las versiones se distinguen de verdad o solo cambian palabras. |
| Umbral bajo | Escribe cinco primeros párrafos distintos de un relato sobre un faro, todos con una probabilidad inferior a la que elijas. | Si aparecen opciones menos previsibles y si siguen siendo útiles para tu texto. |
La tabla propone tres pasos. Los prompts son ejemplos didácticos creados para esta guía, no los del estudio ni resultados de una prueba: sirven para que compares lo que obtienes. El segundo paso aplica VS; el tercero, el ajuste que describe el trabajo: según Jiayi Zhang y sus coautores, cuanto más bajo es el umbral de probabilidad que se pide, más diversa es la salida.
Lo que aconseja la documentación de Claude
La segunda vía no procede del estudio, sino de la guía oficial de prompting de Claude, y se refiere a ese modelo. Los ejemplos son una de las formas más fiables de orientar el formato, el tono y la estructura de la respuesta, según la documentación de Claude, que recomienda incluir 3–5 ejemplos pertinentes y variados, para que el modelo no copie patrones no buscados.
La misma guía aconseja decir qué hacer en lugar de qué no hacer, y ajustar el estilo del prompt al del texto que se quiere, porque el formato del prompt puede influir en el de la respuesta, según la documentación de Claude. Advierte además de que, cuando un consejo menciona un modelo concreto, se probó en ese modelo, y conviene comprobarlo con evaluaciones propias antes de aplicarlo a otro: son recomendaciones del proveedor, no resultados de un experimento.
Los límites del método
El propio trabajo enumera sus límites. Generar una distribución de candidatos, según Jiayi Zhang y sus coautores, cuesta más en latencia y en tokens que pedir una sola respuesta, lo que puede restringir su uso cuando el tiempo o los recursos son escasos. Los modelos más capaces se benefician más de VS, mientras que los menos capaces podrían carecer del razonamiento necesario y, en ocasiones, empeorar la calidad.
Por precaución, conviene leer las probabilidades que da el modelo como una guía para elegir entre versiones, no como una medida exacta; según los autores, las ganancias de diversidad no dependen de una calibración numérica exacta. La elección final sigue siendo de quien escribe.
Conclusión
Que la IA escriba como todas no es inevitable. El colapso de modo, según Jiayi Zhang y sus coautores, se puede mitigar en el momento de la inferencia, solo con el prompt, y los modelos alineados conservan una diversidad notable. Pedir varias versiones con su probabilidad es la primera herramienta; con Claude ayudan además, según la documentación de Claude, los ejemplos variados del tono buscado y un prompt con el mismo formato que se quiere en la respuesta.
Fuentes primarias
- PMLR — On Calibration of Modern Neural Networks (Guo, Pleiss, Sun y Weinberger, ICML 2017), resumen ↗
- arXiv — Verbalized Sampling (2510.01171v4), texto HTML ↗
- arXiv — Verbalized Sampling: How to Mitigate Mode Collapse and Unlock LLM Diversity (2510.01171), registro ↗
- Anthropic — Prompting best practices (documentación de Claude) ↗
La continuación natural
Aprende IA a tu ritmo con nuestros cursos gratuitos.
En nuestra plataforma de aprendizaje TAKU podrás acceder a este y muchos otros cursos de manera totalmente gratuita.
APRENDER CON TAKU
Comentarios