Inkling 2 Small : un modèle « petit » de 594 milliards de paramètres

Seule sa partie active est « petite »

Ce qui retient l’attention avec Inkling 2 Small n’est pas sa taille, mais le jeu autour du mot small. Dans son annonce et sa fiche modèle, Thinking Machines AI présente Inkling 2 Small comme un modèle multimodal open-weight de 594 milliards de paramètres, dont seulement 17 milliards sont actifs à chaque token.

Il s’agit d’une architecture sparse Mixture-of-Experts : chaque token est envoyé vers 8 experts parmi 384. L’architecture repose sur un Transformer decoder-only de 48 couches, avec une attention hybride locale et globale. L’idée est simple : conserver une grande capacité totale sans calculer tous les paramètres pour chaque token.

Mais 17 milliards de paramètres actifs ne signifient pas que le modèle se déploie comme un modèle 17B compact classique. Les 594 milliards de poids complets doivent toujours être stockés ou répartis entre plusieurs appareils. L’économie de calcul par token s’accompagne donc d’exigences importantes en mémoire, en routage des experts et en communication interserveurs.

Le modèle accepte le texte et les images, avec une fenêtre de contexte annoncée d’environ 1 million de tokens. L’effort de raisonnement est réglable ; les évaluations publiées ont utilisé la valeur 0,99, appelée xhigh. C’est un point essentiel : la qualité ne peut être séparée du budget de calcul ni de la longueur de la réponse.

La fiche modèle indique 82,2 % sur SWEBench Verified, 85,1 % sur Terminal-Bench 2.1 et 81,6 % sur MMMU Pro. Ce sont des résultats annoncés par le développeur, et Inkling 2 Small ne domine pas toutes les comparaisons. Au 6 novembre 2026, une validation indépendante reste particulièrement importante.

La parcimonie ne garantit pas une réponse finale bon marché

La conclusion pratique est la suivante : Inkling 2 Small peut réduire le calcul pour un token isolé, sans nécessairement réduire le coût d’une tâche complète. Selon les données publiées, le modèle a généré environ 150 000 tokens de sortie par tâche en moyenne, soit près de quatre fois plus que son prédécesseur, Inkling Small.

C’est là que le calcul devient moins séduisant. Si le raisonnement s’allonge, le gain des 17 milliards de paramètres actifs est en partie absorbé par les longues trajectoires, le traitement du contexte et l’infrastructure nécessaire aux 594 milliards de poids. Je regarderais d’abord le coût total d’une tâche achevée et le délai avant un résultat utile.

Pour les chercheurs et les équipes disposant d’une infrastructure distribuée, le modèle est intéressant : poids ouverts, images, contexte long et solides résultats déclarés en programmation offrent une marge d’adaptation. Pour une inférence locale ou à petit budget, le terme Small est plutôt trompeur. Ce n’est pas un petit modèle, mais un grand modèle qui a appris à ne s’activer qu’en partie.

Nous avons auparavant analysé Pony Alpha sur OpenRouter, probablement GLM-5 avec un contexte de 200K et des possibilités de tests sécurisés. Ce cas complète utilement l’évaluation d’Inkling 2 Small lorsqu’il faut comparer de nouveaux modèles selon le contexte et les usages.