Claude a refusé de répéter une analyse des risques déjà effectuée
ClaudeAnthropicбезопасность LLM
À quel endroit la chaîne se brise
Ce qui interpelle n’est pas le refus lui-même, mais le moment où il survient : Claude avait déjà produit une analyse des risques pour le premier produit et, lorsqu’on lui a demandé le même format pour le second, il a invoqué ses propres garde-fous. Dans le message initial de l’utilisateur 285675607, selon le récit de l’auteur, le modèle a reconnu sa réponse précédente mais a refusé de poursuivre.
La distinction est importante. Le modèle n’a pas simplement perdu le contexte. Il semble comprendre que la tâche répète la précédente, tout en passant de la génération au refus. Pour un pipeline, le résultat est identique : la sortie d’une étape cesse d’être une interface exploitable par l’étape suivante.
Dans l’analyse des risques, c’est particulièrement gênant. Une LLM peut d’abord rassembler les constats, puis il faut les transférer dans un registre, harmoniser les formulations ou appliquer un modèle à deux produits. Si la couche de sécurité réagit non pas à l’intention générale, mais à une transformation précise ou à certains termes, un formatage anodin peut soudain paraître être une opérationnalisation interdite.
Au 3 novembre 2026, il ne s’agit pas d’une expérience contrôlée d’Anthropic, mais d’une observation isolée d’utilisateur. Elle ne prouve pas le fonctionnement des filtres internes de Claude. Sans journaux du classificateur, on ne peut pas distinguer un refus fondé sur une politique d’un défaut de capacité ou d’une dégradation de la réponse induite par cette politique.
Pourquoi c’est un problème pour les flux LLM
La conclusion pratique est simple : des garde-fous stricts augmentent le coût de la composition. Un processus agentique suppose que le résultat d’une étape peut être transmis à la suivante ; un refus à la place de la structure attendue brise les schémas, les tentatives répétées, les caches et l’évaluation automatisée.
Je commencerais par tester séparément trois modes : l’extraction de faits, le reformatage neutre et la création de recommandations précises. Cela permet de voir où se situe la frontière : dans le contenu du risque, dans la forme de la réponse ou dans le degré d’opérationnalité. Il ne s’agit pas de contourner la protection, mais de diagnostiquer un contrat instable.
Les travaux ProcBench et STEPS mentionnés dans la discussion soulignent un problème plus général : les procédures séquentielles et l’ordre des actions sont déjà difficiles pour les LLM. Ils n’isolent toutefois pas les garde-fous d’Anthropic comme cause de ce cas précis ; il ne faut donc pas confondre raisonnement fragile et refus de politique.
Pour une personne, c’est une répétition irritante de la demande. Pour un système automatisé, c’est un échec de protocole au milieu d’une transaction. La partie la plus gênante n’est pas que Claude ait dit « non », mais que deux étapes voisines et presque identiques aient reçu des règles différentes.