Models
Liquid AI presenta LFM2.5-24B-A2B per a l'ordinador
Liquid AI presenta LFM2.5-24B-A2B per executar tasques amb eines al mateix equip. L'empresa afirma que el seu model raona abans de respondre i publica mesures de velocitat en dues plataformes; la llicència imposa condicions a l'ús comercial.
Rep el resum diari d'IA
Cada matí, l'essencial de la intel·ligència artificial al teu correu, sense fum. Al dia amb la IA.
En subscriure-t'hi acceptes rebre el butlletí d'AI Informator. Pots donar-te de baixa quan vulguis.
En resum
- Segons Liquid AI, el model només activa una part dels seus paràmetres quan genera cada token.
- Liquid AI presenta mesures de velocitat obtingudes en les seves pròpies proves.
- La llicència limita l'ús comercial segons els ingressos de qui l'utilitza.
Tasques amb eines al mateix equip
Liquid AI presenta el model per resoldre tasques de diversos passos amb eines al mateix equip. Segons Liquid AI, genera un raonament abans de la resposta final.
Segons Liquid AI, el model fa crides a eines i aborda tasques de diversos passos dins de sistemes que en coordinen les accions.
L'arquitectura del model
| Recompte | Paràmetres |
|---|---|
| Totals | 24 mil milions, segons Liquid AI |
| Actius per token | 2 mil milions, segons Liquid AI |
Segons Liquid AI, el model distingeix entre paràmetres totals i paràmetres actius per token. La taula recull tots dos recomptes de l'arquitectura anunciada.
Les proves de velocitat de Liquid AI
| Plataforma | Descodificació |
|---|---|
| M5 Max | 184 tokens/s, segons Liquid AI |
| Ryzen AI Max+ 395 | 114 tokens/s, segons Liquid AI |
Liquid AI presenta aquestes mesures de descodificació en M5 Max i Ryzen AI Max+ 395. Són velocitats de generació de tokens comunicades pel desenvolupador.
L'ús comercial té condicions
LFM Open License v1.0 concedeix permisos per reproduir, modificar i distribuir l'obra, subjectes a les seves condicions. Defineix el llindar d'ingressos anuals com a 10 milions de dòlars estatunidencs o més i exclou de la seva cobertura l'ús comercial per part d'entitats que superin aquest llindar.
El text també estableix una excepció: el llindar no s'aplica a les organitzacions sense ànim de lucre que compleixin la definició de la llicència quan utilitzin l'obra amb finalitats no comercials o de recerca. L'excepció depèn tant del tipus d'entitat com de l'ús.
Conclusió
Liquid AI presenta el model per executar-lo en local i utilitzar eines. Cal distingir les velocitats que comunica dels permisos i les condicions que recull la llicència.
Fonts primàries
Rep el resum diari d'IA
Cada matí, l'essencial de la intel·ligència artificial al teu correu, sense fum. Al dia amb la IA.
En subscriure-t'hi acceptes rebre el butlletí d'AI Informator. Pots donar-te de baixa quan vulguis.
Comentaris