Investigación
La voz dice una cosa y el modelo escucha otra: los sistemas de habla atribuyen género por el contenido, no por el timbre
Un estudio publicado en arXiv somete a cinco modelos de voz a voz, abiertos y cerrados, a un experimento controlado en inglés, español y mandarín. El resultado es incómodo: ninguno desvía el timbre de la voz sintetizada hacia el estereotipo, pero todos deciden el género del hablante por lo que dice, no por cómo suena. El peor de ellos se equivoca en el 90 % de los casos cuando el contenido choca con la voz.
Recibe el resumen diario de IA
Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.
Al suscribirte aceptas recibir el newsletter de AI Informator. Puedes darte de baja cuando quieras.
En resumen
- Los cinco modelos de voz a voz evaluados atribuyen el género del hablante a partir del contenido del discurso y no de las características acústicas de la voz.
- Hacer el contenido un paso más femenino (masculino, neutro, femenino) multiplica entre 1,7 y 24 veces las probabilidades de que el modelo juzgue que quien habla es una mujer.
- Cuando contenido y voz entran en conflicto, el peor modelo asigna un género erróneo en el 90 % de los casos; cuando coinciden, solo en el 2 %.
- El sesgo pasa desapercibido en las auditorías habituales porque la mayoría de sistemas responde con una voz de salida fija que no puede derivar hacia el estereotipo.
El sesgo se esconde donde nadie lo mide
Los modelos S2S (speech-to-speech, de voz a voz) ya operan dentro de sistemas de doblaje, traducción automática y agentes conversacionales. A diferencia de los modelos de texto, escuchan la voz del hablante, y esa voz transporta información sobre su género. Un sistema fiel debería tratar a quien habla como quien suena, no como quien suele decir ese tipo de cosas.
El problema metodológico es que la mayoría de estos sistemas responde siempre con una voz de salida fija, codificada de antemano. Al auditar únicamente el audio generado, el resultado parece limpio incluso cuando el modelo arrastra un sesgo severo. La voz fija actúa como una tapadera: el prejuicio no se manifiesta en el timbre, sino en el juicio.
Dos preguntas y un experimento cruzado
Los autores separan el fenómeno en dos pruebas. La primera, el renderizado de voz: cuando el modelo vuelve a pronunciar la entrada, ¿el estereotipo contenido en las palabras desplaza el género percibido de la voz de salida? La segunda, la atribución de género: cuando se le pide al modelo que declare el género del hablante, ¿sigue la voz o sigue el contenido?
El diseño cruza voces masculinas y femeninas con pasajes de contenido estereotipadamente masculino, neutro y femenino, sobre cinco modelos de código abierto y cerrado en tres lenguas. Esa estructura factorial permite aislar la contribución acústica de la contribución semántica, algo que las evaluaciones agregadas de precisión no logran distinguir.
El timbre resiste, el juicio se rinde
En el renderizado de voz no se observa deriva alguna hacia el estereotipo: la voz sintetizada mantiene sus características acústicas con independencia de lo que se diga. La buena noticia termina ahí. En la atribución de género, todos los modelos evaluados resuelven a partir del contenido léxico, ignorando la señal acústica que tienen delante y que es, precisamente, la evidencia directa.
La magnitud del efecto es notable. Desplazar el contenido un escalón hacia lo femenino multiplica entre 1,7 y 24 veces las probabilidades de un veredicto de mujer, según el modelo. Y la asimetría entre condiciones congruentes e incongruentes (2 % frente a 90 % de error en el peor caso) indica que el acierto habitual no procede de escuchar, sino de que el contenido y la voz suelen coincidir en los datos de entrenamiento.
Implicaciones para quien despliega estos sistemas
Un agente de voz que infiere el género de su interlocutor a partir de lo que cuenta, y no de cómo suena, es un sistema que reproduce asociaciones ocupacionales y temáticas aprendidas del corpus. En doblaje o traducción automática, esto puede traducirse en decisiones de casting de voz, concordancia gramatical o tratamiento personalizado equivocados en español, donde el género marca adjetivos y participios.
El trabajo también deja una lección de evaluación: medir solo la salida de audio de un sistema con voz fija es una auditoría insuficiente. Hace falta interrogar explícitamente al modelo sobre sus inferencias latentes, porque ahí es donde el sesgo sobrevive sin dejar rastro acústico.
Conclusión
El hallazgo dibuja un patrón que ya conocemos de otros dominios: cuando se cierra la puerta obvia por la que se colaba el sesgo (aquí, la síntesis de voz), este se reubica en la capa de razonamiento, más difícil de auditar y más consecuente. A medida que los agentes de voz se integran en atención al cliente, sanidad o educación, la pregunta relevante deja de ser si el sistema suena neutral y pasa a ser qué está infiriendo en silencio sobre quien le habla. Los protocolos de evaluación tendrán que ponerse al día con esa distinción, y los desarrolladores deberán decidir si un modelo de voz debe emitir juicios de género en absoluto.
Fuentes primarias
Recibe el resumen diario de IA
Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.
Al suscribirte aceptas recibir el newsletter de AI Informator. Puedes darte de baja cuando quieras.
Comentarios