Cohere e IBM: más IA para el español

Buscar y escuchar en español

El 21 de octubre llegaron dos modelos con el español dentro y trabajos distintos. Cohere, empresa canadiense de modelos de IA para empresas, lanzó Rerank 5, que decide qué documentos de una empresa llegan a un modelo de lenguaje cuando alguien le pregunta. IBM publicó Granite Speech 5.0, que convierte la voz en texto y la traduce.

Uno busca y el otro escucha, y los dos interesan a quien trabaja con clientes, archivos o reuniones en español. Rerank 5 se paga por uso y no se puede descargar; Granite Speech 5.0 se descarga y se ejecuta en equipos propios. Todas las cifras las dan las empresas que publican los modelos.

Rerank 5 ordena y subraya

Cohere es una empresa canadiense de modelos de IA para empresas y gobiernos, fundada en Toronto en 2019. Según la propia empresa, reunió casi 1.000 millones de dólares en cuatro rondas de capital riesgo entre 2021 y 2024. En septiembre firmó un acuerdo para integrar a la empresa alemana de IA Aleph Alpha, pendiente de aprobaciones regulatorias. Vende Rerank 5 y hace sus pruebas, así que es parte interesada.

Rerank 5 sale en dos versiones: Pro, la más precisa, y Fast, pensada para mucho volumen. Se usa a través de la API de Cohere, Microsoft Foundry, Amazon SageMaker y otros servicios de la propia Cohere, o se instala en la nube privada del cliente o en sus oficinas previo acuerdo, pero no se descarga libremente.

La novedad es Context Focus, una función opcional que, además de ordenar los documentos, señala dentro de cada uno los fragmentos que responden a la pregunta. En un sistema de generación aumentada por recuperación (RAG), el modelo de lenguaje lee así menos texto, que es lo que se paga. Según Cohere, quitar la mitad del texto recuperado conserva el 96 % de la calidad de las respuestas.

Además, con Rerank 5, según la empresa, un documento puntuado con un 0,7 tiene un 70 % de probabilidades de ser útil. Dice haberlo contrastado con valoraciones de personas.

El español, en las cuentas de Cohere

En el banco de pruebas interno de Cohere, Rerank 5 Pro queda primero en español entre los siete modelos que compara y supera a su predecesor, Rerank 4 Pro. La empresa asegura que Pro es el primero en 14 de los 19 idiomas distintos del inglés de su batería.

Fast no sale tan bien parada: en español queda por debajo de Rerank 3, de Voyage AI, empresa de modelos de búsqueda que hoy pertenece a MongoDB, la compañía estadounidense de bases de datos. Cohere solo afirma que Fast supera a Rerank 3 Lite, el pequeño de Voyage AI. Ni el banco ni la métrica son independientes.

Granite Speech 5.0 escucha y traduce

IBM publicó el 21 de octubre en Hugging Face, la plataforma donde se comparten y descargan modelos de IA, Granite Speech 5.0, de su familia de modelos Granite. El principal, de 2.000 millones de parámetros, transcribe inglés, francés, alemán, español, portugués y japonés, y traduce entre esos idiomas y el inglés, además del inglés al italiano y al mandarín.

Según IBM, se entrenó con 390.000 horas de audio público y con datos sintéticos. Se le puede indicar en la instrucción el idioma de la grabación y darle listas de hasta 2.000 palabras clave, como nombres de productos, personas o siglas, para que las acierte en todos sus idiomas.

Este sí se descarga

Granite Speech 5.0 es un modelo de pesos abiertos (open weights) con licencia Apache 2.0, y funciona con Transformers, vLLM y llama.cpp. Rerank 5, en cambio, no lo es. Tampoco lo es Voxtral 3, la familia de modelos de voz de la empresa francesa Mistral AI.

IBM ha renovado además Turbo CTC, su modelo pequeño de 470 millones de parámetros. Cuando salió, el 25 de agosto, solo transcribía inglés. Ahora transcribe siete idiomas, español incluido, con puntuación y mayúsculas, y según IBM está pensado para portátiles, móviles y otros dispositivos.

Un 3,50 % con letra pequeña

Según una evaluación de la propia IBM, Granite Speech 5.0 se equivoca en el 3,50 % de las palabras en español en Common Voice, el conjunto de grabaciones de voz donadas de Mozilla.

La letra pequeña está en el mismo gráfico de IBM: su modelo anterior, Granite Speech 4.1 2B, queda en español a la par o algo mejor. Las mejoras que anuncia la empresa son en inglés. Para el español, lo nuevo es poder indicar el idioma, las listas de palabras clave y un Turbo CTC que ya lo entiende.