Ripple-65B : 80,52 sur TerminalBench 2.1 pour 32 millions
Ricursive Intelligence publie Ripple-65B Preview, un modèle dense de 65 milliards de paramètrespoids du modèleNombre de valeurs apprises par un modèle. À quantification égale, plus de paramètres veut dire plus de mémoire occupée, et en général de meilleures réponses.Fiche du lexique entraîné sur 12 000 milliards de tokens, qui revendique le meilleur score américain en licence des poidspoids ouvertsConditions attachées aux fichiers de poids d'un modèle, distinctes de la licence du code qui les fait tourner. Des poids dits ouverts n'impliquent pas un logiciel libre : redistribution, usage commercial et entraînement dérivé varient d'un modèle à l'autre.Fiche du lexique sur le codage agentique. Le laboratoire chiffre son développement complet, du premier jeu de données au dernier rollout, à 32 millions de dollars, avec 1,4 million de rollouts pour atteindre 80,5 sur TerminalBench 2.1.
par Gyom 5 novembre 2026 à 13:12 4 min de lecture rubrique : Machines et coûts
etiquettes : Chez soi · Local · Coût
Ricursive Intelligence se présente comme un laboratoire qui construit des systèmes s'améliorant eux-mêmes en co-optimisant le matériel, le logiciel et le modèle. Pour alimenter sa plateforme de conception de puces, il a entraîné un modèle de langue depuis zéro, et il en publie le 4 novembre une variante généraliste, Ripple-65B Preview, avec ses poids.
80,52 devant des modèles de 500 à 975 milliards de paramètres
Sur TerminalBench 2.1, Ripple-65B marque 80,52, ce que Ricursive présente comme l'état de l'art des poids ouverts américains. Le classement qu'il donne place derrière lui Reflection Beam 501B à 80,1, Meta Muse Spark Open 816B à 76,4, Thinking Machines Inkling 975B à 63,8 et NVIDIA Nemotron 3 Ultra 550B à 56,4. Un modèle dense de 65 milliards se compare donc à des modèles dix fois plus gros, ce qui est l'argument central du billet : la taille n'est plus le seul levier.
Le préentraînement porte sur 12 000 milliards de tokens, avec un million de tokens de contexte en service. Le modèle est disponible sur Hugging Face, Together AI, GMI Cloud et OpenRouter, Fireworks devant ouvrir dans la journée du 4 novembre. Ricursive vante aussi son encombrement : 65 milliards de paramètres denses tiennent sur une machine de bureau à mémoire unifiée, type NVIDIA DGX Spark, dont le rapport entre puissance de calcul et bande passante mémoire convient mieux à un petit modèle qu'à un gros mélange d'experts.
32 millions de dollars du premier jeu de données au dernier rollout
Le chiffre qui structure le billet est un coût. Ricursive annonce 32 millions de dollars pour l'ensemble de sa recherche et développement, en partant de zéro : mise au point de l'échelle de modèles, mélange des données, évaluations, débogage, génération de données synthétiques, mise au point de la recette de post-entraînement, puis les courses finales de préentraînement et de post-entraînement. Le laboratoire estime cette somme au dixième du coût du précédent détenteur du titre en poids ouverts sur le codage agentique.
La comparaison demande une réserve que Ricursive pose lui-même : le chiffre de référence n'est pas publié, il est estimé, et la note de bas de page rappelle que Reflection aurait engagé 150 millions de dollars par mois de calcul chez SpaceX Colossus, avec quatre semaines de préentraînement et quatre semaines de post-entraînement pour Beam. Le rapport de un à dix tient donc à une estimation, pas à des comptes audités.
Le post-entraînement explique une partie de l'économie. Plutôt que de gravir l'échelle par force brute, Ricursive dit avoir itéré sur ses recettes d'apprentissage supervisé et par renforcement, sans acheter de données de post-entraînement : pipelines synthétiques maison, filtrage de qualité, métriques de couverture. Sa recette d'apprentissage par renforcement mêle échantillonnage d'importance tronqué, centrage des scores et pénalité linéaire sur la longueur, sur des environnements synthétiques longs. Le score de 80,5 est atteint en 1,4 million de rollouts, environ 70 fois moins que Reflection Beam.
Un Transformer dense, 80 couches et 40 % de FLOPs utiles
L'architecture assume le choix inverse de la mode. Là où les autres laboratoires passent au mélange d'experts, Ripple reste sur un Transformer dense, avec un rapport hauteur largeur de type fin et profond : 80 couches au total, une dimension de 5 120 seulement pour chacune. Les têtes d'attention sont surdimensionnées, le rapport entre couches à attention locale et couches globales est relevé, la fenêtre locale réduite pour compenser le coût. S'y ajoutent un écrêtage de l'activation de la couche feed-forward, une attention à porte sigmoïde, l'absence d'encodage positionnel sur les couches globales et des résidus de valeur.
Le résultat revendiqué est une utilisation des FLOPs utiles de 40 % pendant tout l'entraînement, préentraînement et post-entraînement compris, avec un simple partitionnement et sans noyau CUDA écrit à la main ni quantificationquantizationRéduction de la précision des poids et parfois des calculs, de seize bits vers huit, quatre ou moins. Elle fait tenir un modèle en mémoire et accélère le débit, en échange d'une perte de qualité qui se voit d'abord sur les petits modèles.Fiche du lexique. C'est le point qui rend le coût crédible : les gains viennent d'un modèle étroit et profond, pas d'une pile d'optimisations matérielles.
16 fois moins de calcul sur le code que l'échelle d'Olmo 3
La recette vient d'une série de modèles de tailles croissantes, une échelle au sens de l'ingénierie, partie de celle d'Olmo 3 et testée sur le code. Six versions s'enchaînent : lois d'échelle de taille de lot et de taux d'apprentissage, nouvelle mise à l'échelle des dimensions et de la profondeur, passage d'une normalisation après à une normalisation avant et après, attention à porte sigmoïde, abandon d'une variante à deux flux jugée bonne en petit et sans effet à 4 milliards, encodage positionnel global et refroidissement du taux d'apprentissage jusqu'à zéro, puis résidus de valeur. La dernière version change de jeu de données, avec du code largement suréchantillonné.
Mesuré par l'entropie croisée sur dolma_stack à l'échelle 4 milliards de paramètres, l'empilement de ces changements apporte jusqu'à 16 fois moins de calcul pour la même performance sur le code que l'échelle d'Olmo 3. Ricursive note que la pente de sa courbe est plus faible que celle de la référence, donc que l'écart devrait s'élargir avec la taille.
Deux limites tiennent au statut du modèle. C'est un aperçu, Preview, et la variante qui alimente la plateforme de conception de puces reste propriétaire. Surtout, le titre de meilleur modèle ouvert américain en codage agentique est revendiqué par Ricursive sur son propre relevé de TerminalBench 2.1, avec ses propres comparaisons : aucun tiers n'a encore reproduit le score.
Source primaire Ricursive Intelligence, « Introducing Ripple-65B Preview », 4 novembre 2026