Jamba remplace-t-il l'attention par Mamba ?

Le chiffre x3 de Jamba est maintenant attribué explicitement à AI21 Labs plutôt que présenté comme donnée établie, le recoupement AI21/NVIDIA distingue un plafond revendiqué d'une mesure représentative, l'attribution du ratio 4/36 d'IBM est corrigée vers Granite 4.0 H-Small plutôt que le papier Bamba, l'étude arXiv:2412.14354 est recadrée sur Mamba pur et non sur l'architecture hybride, une contradiction interne sur l'alternance chez Hymba est corrigée, une fiche signalétique de Jamba (paramètres, contexte, licence) et une quatrième question sur le compromis qualité sont ajoutées. J'ai ajouté deux encadrés de vulgarisation qui expliquent en langue courante le mécanisme de deux sections, sans rien changer au corps de l'analyse. La légende du schéma donnait le ratio de couches comme « une couche d'attention pour huit couches Mamba » : AI21 écrit une couche d'attention sur huit couches au total, soit sept couches Mamba, et la légende dit désormais ce que la source écrit. Le schéma lui-même, qui circule seul dès qu'il est partagé, ne portait aucune réserve sur ses proportions : il la porte maintenant. Un indice de niveau de preuve est posé sur cette page : il est bas, et il l'est parce que le chiffre central vient du fabricant du modèle et n'a été reproduit par personne. Une phrase présentait le gain de débit comme mesuré sur un modèle déployé en production, par opposition à un prototype de laboratoire : elle revenait à reprendre pour argent comptant la formule « production-grade » que la page traite ailleurs comme une revendication de l'éditeur. Elle dit maintenant ce que la source écrit, des poids publiés sous licence Apache 2.0 et une présentation que le fabricant assume. Le chiffre plus élevé associé à Mamba seul était évoqué sans être attribué ni chiffré : il l'est désormais, avec sa référence ajoutée à la bibliographie. Le titre pose une question et le chapô y répond dès sa première phrase. L'agencement des couches est ramené à ce que chaque source documente : seule AI21 décrit une alternance de blocs dédiés pour Jamba ; la fiche Granite 4.0 H-Small ne donne qu'un compte de couches sans dire comment elles se répartissent ; et Zyphra qualifie elle-même Zamba d'architecture distincte de l'alternance de Jamba, un bloc d'attention unique partagé. Le sous-titre, le résumé et le corps rangeaient ces trois modèles sous la même alternance : les trois disent maintenant la même chose. La note d'indice comptait neuf entrées de bibliographie sur onze issues de laboratoires décrivant leurs propres modèles, alors que la bibliographie en compte douze, dont dix : le décompte est rectifié. Enfin, l'étude de NVIDIA n'était citée que pour sa mesure défavorable à l'hybride à l'entraînement, alors qu'elle rapporte aussi un avantage de 2,65 points en moyenne sur douze tâches et une prédiction de génération jusqu'à huit fois plus rapide : les trois grandeurs figurent désormais ensemble. La phrase de synthèse de la section sur les autres laboratoires rangeait Bamba et Zamba sous l'alternance de couches, alors que le même paragraphe écrit que l'agencement des couches de Bamba n'est décrit par aucune de mes sources et que Zamba partage un module d'attention unique plutôt que d'en dédier un par couche. Elle ne dit plus que ce que ces sources portent. Le 24 septembre 2026, j'ai relu la page contre ses sources, et plusieurs phrases disaient plus qu'elles. Les 12 milliards de paramètres actifs étaient comptés « par requête », alors qu'AI21 écrit seulement qu'ils sont mobilisés à l'inférence. Le sous-titre prêtait à Bamba un principe d'agencement que le billet d'IBM ne décrit pas, et faisait de Jamba un choix « arbitré, pas une hypothèse de recherche », ce qu'aucune source ne dit ; la citation en exergue répétait ce second point. Une phrase prêtait à Bamba un ratio favorable à Mamba que le billet d'IBM ne donne pas : seul Granite 4.0 H-Small a un compte de couches documenté. Le partage du module d'attention de Zamba servait à « limiter le surcoût mémoire », alors que Zyphra écrit « à un coût minimal en paramètres ». La mesure d'Artificial Analysis était rapportée à Jamba alors qu'elle porte sur Jamba 1.5 Mini, un modèle ultérieur, et décrite comme une comparaison entre hébergeurs alors qu'un seul est mesuré. L'écart entre le x3 d'AI21 et le 4 à 5 fois de Gu et Dao était imputé à l'hybridation, alors que comparateurs et configurations diffèrent, et une phrase en tirait un signal « plus transposable à un usage réel » : elle est retirée. La MFU, un taux d'utilisation du GPU, était opposée à un gain de débit. Une question présentait comme « démontré » un gain que la page traite ailleurs comme revendiqué, une autre affirmait qu'aucun laboratoire ne publie de métrique de mémoire comparable, alors que Hymba publie une réduction de cache face à Llama-3.2-3B : cette affirmation est retirée. La phrase selon laquelle un modèle purement Mamba sacrifierait la précision n'était portée par aucune source : elle est retirée, du corps comme de l'encadré. L'étiquette « Ce que les données établissent » coiffait des spécifications du fabricant, et l'étiquette « Ce qui recoupe ce chiffre » un passage qui conclut que rien ne le recoupe : elles disent maintenant ce qu'elles coiffent. Le schéma disait que les deux mécanismes se relaient couche par couche, alors que sa propre légende compte une couche d'attention sur huit, et que l'attention est meilleure pour retrouver une information exacte : il ne montre plus que l'agencement et le coût de chaque bloc. Dans la note d'indice, l'absence de graines, d'intervalle et de protocole est ramenée à ce que le billet d'annonce établit, le matériel sur lequel NVIDIA constaterait ses gains n'est plus affirmé, faute d'un passage qui le nomme dans ce que j'ai lu, et la MFU n'est plus présentée comme la seule mesure contraire. Deux titres de la bibliographie sont rectifiés. J'ai ajouté ce que les sources portaient et que la page taisait : la qualité compétitive de Mamba et la cause que les auteurs de l'étude de reclassement donnent à sa lenteur, le contexte d'entraînement de 32 000 tokens de Mixtral 8x7B, et la revendication de qualité d'AI21 pour Jamba. L'indice ne bouge pas. J'ai ensuite relu la page une seconde fois contre ses sources. La MFU, un taux d'utilisation du GPU, servait encore de versant « entraînement » du gain de débit dans une réserve, dans une question et dans la note d'indice, alors que la page écrit elle-même qu'elle ne mesure pas une vitesse : aucun de ces passages ne la présente plus ainsi. Deux phrases disaient que le x3 d'AI21 porte sur l'inférence, ce que les passages du billet que j'ai relevés ne précisent pas : l'une est retirée, l'autre dit ce qui manque. Une phrase laissait entendre qu'AI21 avait été imitée, alors que la page écrit plus haut que les dates ne démontrent pas son antériorité : elle dit maintenant seulement que d'autres organisations ont aussi combiné les deux mécanismes. Le résumé et un encadré attribuaient à NVIDIA en général l'agencement en parallèle de Hymba, alors qu'un autre hybride de NVIDIA cité ici est construit par couches : ils nomment Hymba. La supériorité de l'attention pour retrouver une information exacte renvoyait à une autre page du site plutôt qu'à une source : elle est ramenée à ce que NVIDIA écrit de ses propres têtes d'attention dans Hymba, et retirée de l'encadré. La section sur l'interface affirmait que l'architecture n'est jamais visible, alors qu'AI21 l'affiche dans le titre de son annonce : elle dit maintenant qu'elle n'apparaît généralement pas. La présentation ne rapproche plus le x3 d'AI21 de la revendication de NVIDIA. L'indice ne bouge pas. Le sous-titre décrit Hymba comme son papier le fait, avec des têtes SSM en parallèle dans une même couche. Le gain de débit de Jamba est un gain revendiqué par AI21, sans méthodologie de benchmark détaillée dans son billet. La conclusion ne prête plus aux hybrides une dépendance à la tâche qu'aucune source citée ne teste sur eux. Le x3 n'est reproduit par aucune des sources réunies ici, ce que je dis désormais sans l'étendre à tout tiers. Le résultat sur le reclassement porte sur Mamba pur et je ne le présente plus comme une borne du gain d'un hybride. Le rappel « haute résolution » est rattaché à Hymba, dont il vient, et non à Jamba. Je rapprochais le chiffre de Nemotron-H du x3 d'AI21 comme deux signaux convergents ; il porte sur un autre modèle face à d'autres comparateurs, et, comme celui de Gu et Dao, il ne soutient ni ne contredit le x3. Le sous-titre nomme les composants de chaque modèle hybride comme ses sources le font. L'étude sur le reclassement trouve Mamba pur moins efficient, à qualité comparable, et non défavorable en tout ; le « jusqu'à 3 fois » de NVIDIA est un plafond, que je ne rapproche plus du x3 d'AI21.