Contexte Technique
J’ai tout de suite regardé les spécifications, parce que l’expression « 118B, mais en local » sonne bien jusqu’à ce qu’on voie les poids. La nouvelle Laguna S 2.1 de Poolside est un modèle MoE de 118B paramètres, mais seuls 8B sont actifs par token. Pour l’automatisation pratique de l’IA, c’est un bon schéma : calcul moins cher qu’un modèle dense de cette classe, et une qualité de codage promise très élevée.
Ensuite, ce n’est plus du marketing, c’est de la physique. Le checkpoint BF16 pèse environ 236 Go, donc il ne rentre évidemment pas sur un seul GPU grand public. Si on prend la voie officielle pour l’exécution locale, il s’agit de poids quantifiés, et pour q4_k_m, il faut environ 75 Go de mémoire.
C’est là que j’ai fait une pause. Ce n’est pas l’histoire de « lancer sur une RTX 4090 et c’est parti », mais plutôt des machines avec 128 Go de mémoire unifiée, en particulier Apple Silicon, ou un déchargement très soigné. Les documents de Poolside mentionnent les formats BF16, FP8, INT4, NVFP4, GGUF et MLX, mais le scénario pratique avec un seul GPU grand public n’est pas confirmé.
Les benchmarks montrent que le modèle n’est pas un jouet. Poolside annonce 70,2 % sur Terminal-Bench 2.1 et 40,4 % sur DeepSWE, ce qui indique clairement un objectif de longs flux de codage, pas une belle démo d’autocomplétion. J’aime vraiment cette direction : moins de discours sur « l’agent en général », plus de développement concret en plusieurs étapes.
Ce que cela change pour les entreprises et l’automatisation
Si l’on regarde objectivement, les équipes qui ont besoin d’une intégration locale de l’IA dans le développement en sortent gagnantes : code privé, dépôts internes, agent de revue, refactorisation et tâches d’ingénierie longues. Mais le gain n’existe que si le matériel et l’architecture sont adaptés au modèle, et non l’inverse.
Ceux qui perdent sont ceux qui lisent « 8B actifs » comme « presque gratuit ». Non, la mémoire reste contrainte par l’empreinte complète de 118B du modèle, et une erreur de choix de format ou de matériel transforme vite le projet en une expérience coûteuse.
Chez Nahornyi AI Lab, je vois constamment cette bifurcation : le modèle seul résout rarement la tâche ; c’est la combinaison de quantification, d’exécution, de mémoire, de routage des requêtes et d’UX pour l’équipe qui fait la différence. Si vous voulez construire une automatisation IA autour de modèles de code locaux sans achats superflus ni faux départs, nous pouvons analyser votre pile et monter un schéma fonctionnel pour une charge réelle, pas pour une belle diapositive de fournisseur.