Contexte technique
J’ai lu attentivement l’article d’Unconventional AI, et la thèse n’est pas décorative, mais très concrète : arrêtons de chercher une mémoire unique et parfaite pour tout. Pour une implémentation réelle de l’IA, c’est important car l’inférence et l’entraînement butent depuis longtemps non seulement sur les maths, mais aussi sur le coût du déplacement des données.
Les auteurs proposent d’« aplanir le triangle » entre vitesse, densité et rétention des données. Ne pas pousser chaque cellule à un état quasi sans erreur, comme dans l’école informatique classique, mais accepter que les charges d’IA tolèrent des compromis plus souples.
Je décomposerais leur idée en deux mémoires distinctes. La première, pour les poids du modèle : ici, la densité et la rétention comptent, car les poids ne sont quasiment jamais réécrits pendant l’inférence. La seconde, pour l’état de travail et le cache KV : on a besoin d’une mémoire très rapide proche du calcul, même si la rétention est plus courte et que l’architecture doit compenser.
C’est là que ça devient intéressant. Comme candidats, ils mettent en avant les cellules à gain, l’eDRAM, la PCM et l’empilement 3D de HBM sur la logique. Pas avec « un seul gagnant », mais comme un ensemble de technologies dans une même pile, où chacune couvre sa propre classe de données.
J’ai particulièrement apprécié l’accent mis sur la localité. Si la lecture depuis la mémoire externe consomme une part notable de l’énergie de l’accélérateur, alors on ne parle plus de beaux circuits, mais du coût par token. Et oui, l’idée de garder un maximum de modèle et d’état sur la puce, ou aussi près que possible, ne relève pas du fantasme, mais de la prochaine étape obligatoire.
L’article est récent, juillet 2026, ce n’est donc pas une rétrospective, mais un signal très actuel vers la prochaine génération d’infrastructure IA.
Ce que ça change pour les entreprises et l’automatisation
J’y vois trois conséquences directes. Premièrement : les gagnants seront ceux qui construisent du matériel et des services orientés inférence, où le coût par réponse importe, pas seulement le pic de benchmark. Deuxièmement : la HBM n’est plus la seule réponse sacrée, ce qui ouvrira un marché pour des configurations moins chères et plus spécialisées.
Perdront ceux qui continuent à concevoir l’architecture IA selon la vieille logique « tout universel, tout hyper fiable, on verra l’énergie plus tard ». Avec cette approche, l’automatisation par l’IA se heurtera vite aux réalités économiques, surtout sur les longs contextes et les gros volumes de requêtes.
Je vois constamment chez les clients le même problème : tout le monde parle du modèle, mais sous-estime la mémoire, le réseau et le coût de chaque étape du pipeline. Et c’est précisément là que se joue le fait que l’automatisation IA décolle en production ou reste une coûteuse démo.
Si vous cherchez déjà à réduire le coût de l’inférence, à empaqueter un environnement privé ou à concevoir une intégration IA sans surcoût matériel, c’est le moment de repenser l’architecture de zéro. Chez Nahornyi AI Lab, c’est justement ce qu’on fait : on ne dessine pas de beaux schémas pour le plaisir, on construit des solutions IA viables pour les entreprises, avec des contraintes réelles de prix, de vitesse et d’échelle.