Cohere i IBM: més IA per al castellà

Cercar i escoltar en castellà

El 21 d'octubre van arribar dos models amb el castellà a dins i feines diferents. Cohere, empresa canadenca de models d'IA per a empreses, va llançar Rerank 5, que decideix quins documents d'una empresa arriben a un model de llenguatge quan algú li fa una pregunta. IBM va publicar Granite Speech 5.0, que converteix la veu en text i la tradueix.

L'un cerca i l'altre escolta, i tots dos interessen a qui treballa amb clients, arxius o reunions en castellà. Rerank 5 es paga per ús i no es pot descarregar; Granite Speech 5.0 es descarrega i s'executa en equips propis. Totes les xifres les donen les empreses que publiquen els models.

Rerank 5 ordena i subratlla

Cohere és una empresa canadenca de models d'IA per a empreses i governs, fundada a Toronto el 2019. Segons la mateixa empresa, va aplegar gairebé 1.000 milions de dòlars en quatre rondes de capital risc entre el 2021 i el 2024. Al setembre va signar un acord per integrar l'empresa alemanya d'IA Aleph Alpha, pendent d'aprovacions reguladores. Ven Rerank 5 i en fa les proves, de manera que és part interessada.

Rerank 5 surt en dues versions: Pro, la més precisa, i Fast, pensada per a grans volums. S'utilitza a través de l'API de Cohere, Microsoft Foundry, Amazon SageMaker i altres serveis de la mateixa Cohere, o s'instal·la al núvol privat del client o a les seves oficines amb un acord previ, però no es pot descarregar lliurement.

La novetat és Context Focus, una funció opcional que, a més d'ordenar els documents, assenyala dins de cadascun els fragments que responen a la pregunta. En un sistema de generació augmentada per recuperació (RAG), el model de llenguatge llegeix així menys text, que és el que es paga. Segons Cohere, treure la meitat del text recuperat conserva el 96 % de la qualitat de les respostes.

A més, amb Rerank 5, segons l'empresa, un document puntuat amb un 0,7 té un 70 % de probabilitats de ser útil. Diu que ho ha contrastat amb valoracions de persones.

El castellà, als comptes de Cohere

Al banc de proves intern de Cohere, Rerank 5 Pro queda primer en castellà entre els set models que compara i supera el seu predecessor, Rerank 4 Pro. L'empresa assegura que Pro és el primer en 14 dels 19 idiomes diferents de l'anglès de la seva bateria.

Fast no en surt tan ben parat: en castellà queda per sota de Rerank 3, de Voyage AI, empresa de models de cerca que avui pertany a MongoDB, la companyia nord-americana de bases de dades. Cohere només afirma que Fast supera Rerank 3 Lite, el petit de Voyage AI. Ni el banc ni la mètrica són independents.

Granite Speech 5.0 escolta i tradueix

IBM va publicar el 21 d'octubre a Hugging Face, la plataforma on es comparteixen i es descarreguen models d'IA, Granite Speech 5.0, de la seva família de models Granite. El principal, de 2.000 milions de paràmetres, transcriu anglès, francès, alemany, castellà, portuguès i japonès, i tradueix entre aquests idiomes i l'anglès, a més de l'anglès a l'italià i al mandarí.

Segons IBM, es va entrenar amb 390.000 hores d'àudio públic i amb dades sintètiques. Se li pot indicar a la instrucció l'idioma de la gravació i donar-li llistes de fins a 2.000 paraules clau, com ara noms de productes, persones o sigles, perquè les encerti en tots els seus idiomes.

Aquest sí que es descarrega

Granite Speech 5.0 és un model de pesos oberts (open weights) amb llicència Apache 2.0, i funciona amb Transformers, vLLM i llama.cpp. Rerank 5, en canvi, no ho és. Tampoc no ho és Voxtral 3, la família de models de veu de l'empresa francesa Mistral AI.

IBM també ha renovat Turbo CTC, el seu model petit de 470 milions de paràmetres. Quan va sortir, el 25 d'agost, només transcrivia anglès. Ara transcriu set idiomes, el castellà inclòs, amb puntuació i majúscules, i segons IBM està pensat per a portàtils, mòbils i altres dispositius.

Un 3,50 % amb lletra petita

Segons una avaluació de la mateixa IBM, Granite Speech 5.0 s'equivoca en el 3,50 % de les paraules en castellà a Common Voice, el conjunt de gravacions de veu donades de Mozilla.

La lletra petita és al mateix gràfic d'IBM: el seu model anterior, Granite Speech 4.1 2B, queda en castellà igual o una mica millor. Les millores que anuncia l'empresa són en anglès. Per al castellà, la novetat és poder indicar l'idioma, les llistes de paraules clau i un Turbo CTC que ja l'entén.