Skip to main content
open-weightsmoereasoning

Kimi K3 : Poids ouverts et plus seulement 50B actifs

Moonshot AI a ouvert les poids de Kimi K3, et la clarification clé est la suivante : on ne parle pas de 50B, mais d'environ 100B de paramètres actifs selon une interprétation du MoE sparse. C'est important car une classe de modèle complètement différente est arrivée en open weights.

Ce que Kimi K3 a vraiment révélé

Le plus important : Kimi K3 ne ressemble pas à « un autre grand modèle ouvert », mais à une très grande version MoE, décrite comme 2,8 billions de paramètres totaux dans les documents disponibles. Et c’est là que les rumeurs prennent un coup : selon les descriptions, sa partie active n’est pas de 50B, mais peut atteindre environ 100B selon la manière de compter l’équivalent actif.

Je m’appuierais non pas sur les récits de chats, mais sur la fiche du modèle sur Hugging Face et les documents de Moonshot AI, car c’est là que le contexte de formulation compte. Le résumé disponible mentionne 896 experts et 16 experts actifs par token, ce qui explique la confusion autour du chiffre des paramètres actifs.

Le débat ne porte donc pas sur la taille du modèle. Il porte sur quel équivalent d’activation sparse considérer comme honnête : environ 50B selon une interprétation, ou près de 100B selon une autre. Pour une discussion d’ingénierie, ce n’est pas cosmétique ; c’est une différence d’attentes en matière de qualité, de latence et d’exigences d’infrastructure.

Autre fait important des documents : on attribue au modèle un contexte de 1 048 576 tokens et un support multimodal natif. Si cela se confirme dans la version à poids ouverts, Kimi K3 est intéressant non seulement comme modèle de raisonnement, mais aussi comme base pour des scénarios agentifs longs, des pipelines de code et de l’analyse de sécurité avec de gros volumes de données en entrée.

Pourquoi cela change la donne

Oui, c’est un changement sérieux. Quand un modèle de cette classe arrive dans l’écosystème open source, ce n’est pas seulement l’accès à la qualité qui change, mais aussi le seuil pour les systèmes autonomes qui n’avaient de sens presque que sur des API fermées.

Deux choses m’intéressent le plus ici. Premièrement : dans quelle mesure Kimi K3 tient-il le contexte long dans de vrais workflows agentifs, pas seulement dans un joli tableau. Deuxièmement : qu’advient-il de la sécurité quand les poids ouverts se combinent à un raisonnement fort et à des outils externes sans les restrictions cloud d’un fournisseur.

Les benchmarks dans les documents disponibles semblent très solides, notamment SWE-bench Verified, FrontierSWE et Terminal-Bench 2.1, mais je n’en ferais pas un culte. Pour moi, le signal principal est plus simple : si l’échelle active est vraiment proche de 100B, alors ce n’est plus une histoire de « presque rattrapé », mais de poids ouverts qui entrent de plain-pied dans la zone où les vieilles habitudes sur l’écart entre modèles ouverts et fermés commencent à se briser.

Et cela, ce n’est plus une rumeur. C’est un fait architectural dont devront tenir compte tous ceux qui évaluaient jusqu’ici les modèles ouverts à l’aune d’hier.

Nous avons précédemment testé Pony Alpha, un modèle gratuit sur OpenRouter qui s'est avéré être GLM-5, pour explorer comment évaluer les modèles en accès libre récents. De même, la sortie de Kimi K3 invite à l'expérimentation sur Hugging Face, où ses 100B paramètres actifs promettent un nouveau niveau de capacité en open-weight.

Partager cet article