Contexte technique
Je me suis penché sur ce cas non par curiosité futuriste, mais parce que de telles histoires se transforment rapidement en demandes d'implémentation d'IA : « créons un conseiller numérique pour proposer des solutions ». Et c'est là que ça devient intéressant.
Sensay Island est présentée comme une micronation dans l'archipel philippin où un Conseil d'IA de 17 figures historiques discute des décisions. La liste inclut Churchill, Mandela, Ada Lovelace, Confucius et d'autres. Essentiellement, c'est un ensemble de personas d'IA basées sur la technologie de Sensay, spécialisée dans les répliques numériques de personnes.
La mécanique est la suivante : les e-résidents soumettent des initiatives, le « cabinet » d'IA les discute, puis ils promettent une délibération publique et une forme de vote. Sur le papier, c'est un mélange de plateforme civique, de bac à sable de simulation et d'un très bon coup de communication. Je ne vois pas encore d'État souverain ici.
Et c'est là que j'ai freiné : on nous vend non pas une simple automatisation par IA pour le back-office, mais un rapprochement de l'IA du point de décision même. Ce n'est plus un assistant qui trie les demandes pour un fonctionnaire. C'est une interface de pouvoir, bien que sous une forme expérimentale.
Techniquement, il y a tout de suite une multitude de signaux d'alarme. Comment exactement ces « personnalités » de figures historiques ont-elles été créées ? Sur quelles données ? Quelles sont les limites du comportement acceptable ? Comment leurs réponses sont-elles auditées, et comment sont-elles protégées contre l'injection de prompts, les attaques coordonnées et la simple manipulation de contexte ? Une discussion publique sans contrôle se transforme vite en théâtre de l'automatisation.
La thèse de la « neutralité » est particulièrement irritante. Je conçois des architectures d'IA pour des processus réels et je vois toujours la même chose : le système hérite des données, du cadre du prompt, des limites du modèle et des valeurs de l'équipe qui l'a construit. Une IA neutre en politique, ça sonne bien, mais d'un point de vue d'ingénieur, c'est un conte de fées.
Impact sur les entreprises et l'automatisation
Pour moi, ce n'est pas une histoire d'« un pays dirigé par l'IA ». C'est un prototype précoce et bruyant de la manière dont l'intégration de l'IA sera vendue au secteur public et aux grandes organisations : d'abord comme conseiller, puis comme arbitre, et enfin comme prétendu co-auteur de politiques.
Ceux qui utilisent l'IA pour préparer des options, modéliser les conséquences et publier les arguments de manière transparente gagneront. Ceux qui essaient de cacher des choix de valeur derrière le bel avatar d'un algorithme « sage » perdront.
Avec les clients de Nahornyi AI Lab, nous mettons justement les choses à leur place : où l'automatisation par IA élimine réellement les tâches routinières et accélère les décisions, et où les humains ne peuvent pas céder le contrôle, même en apparence. Si vous êtes tenté d'automatiser des processus de gestion complexes, analysons calmement l'architecture et construisons des solutions d'IA pour les entreprises afin que le système aide les gens, au lieu d'imiter la responsabilité.