PII-Tracer repère les données personnelles avant le cloud

Ce que Perplexity a réellement lancé

L'essentiel n'est pas un filtre cloud supplémentaire, mais le déplacement de la décision d'envoyer ou non les données vers l'appareil final. Dans sa publication sur PII-TRACE, Perplexity distingue clairement deux éléments : PII-TRACE, le benchmark, et PII-Tracer, un modèle local compact qui balise les fragments susceptibles de contenir des données personnelles avant l'appel à un modèle cloud.

Le jeu de données rassemble 13 148 conversations synthétiques entre utilisateurs et assistants, dans 13 langues et 10 systèmes d'écriture. Il comporte 37 431 mentions d'identifiants annotées au niveau du caractère, réparties en neuf catégories de PII. Son intérêt ne tient pas seulement à son volume : il permet de tester un détecteur dans des conversations à plusieurs tours, plutôt que sur des champs de formulaire isolés.

Les métriques sont également pertinentes. PII-TRACE mesure la précision, le rappel et le F1 au niveau du caractère, mais aussi la cohérence de détection d'un même identifiant lors de mentions répétées et les performances sur de longs contextes. Dans un chat, c'est un point sensible : manquer la deuxième occurrence d'un identifiant ne vaut pas mieux que manquer la première.

Le modèle local ne sert pas de juge final, mais de signal de pilotage. L'application peut garder le texte sur l'appareil, modifier les fragments détectés, bloquer l'envoi ou demander une confirmation avant la transmission au cloud. Cela ressemble déjà à une véritable frontière d'architecture, et non à un masquage cosmétique après téléversement.

L'évaluation a toutefois une limite évidente : les dialogues sont synthétiques et les annotations ne couvrent que neuf types de PII. Je vérifierais d'abord les faux négatifs dans des messages réels, le mélange de langues et les formats d'identifiants inhabituels. Un beau score F1 ne sert à rien si un format rare passe systématiquement à travers.

Pourquoi le contrôle local change l'architecture

Le changement pratique est simple : la politique de confidentialité passe d'un traitement côté serveur à une décision prise avant la requête réseau. Cela réduit le volume de texte sensible qui quitte réellement l'appareil et donne au routeur de modèles un signal local explicite.

Les développeurs y gagnent dans les scénarios à plusieurs tours, lorsqu'une même référence réapparaît plus tard. Les pipelines naïfs qui considèrent une expression régulière ponctuelle comme une protection suffisante y perdent. PII-Tracer ne rend pas pour autant un système conforme automatiquement : erreurs de détection, journalisation, stockage et règles d'escalade restent nécessaires.

Je n'y vois pas du battage autour d'un modèle de plus, mais un schéma utile : la sensibilité doit être déterminée là où le texte est produit. Une seule question demeure : cette barrière résistera-t-elle de manière fiable à des saisies réelles, désordonnées et volontairement masquées ?

Nous avons déjà examiné comment la sécurité des API, la journalisation et la séparation des environnements permettent de contrôler l'accès aux données sensibles. Ces pratiques complètent la détection locale des PII avant que les informations n'atteignent des services d'IA externes.