Référence des règles · Sécurité
Opérations destructrices
Se déclenche quand : rm -rf /, DROP TABLE, tout supprimer, curl | sh.
Dans un chat, une commande destructrice n’est que du texte. Dans un agent ayant accès à un shell ou à une base de données, une instruction mal comprise s’exécute pour de bon.
Délimitez étroitement l’opération, exigez une simulation qui liste ce qui changerait et exigez une confirmation explicite avant d’exécuter.
Les prompts d’exemple ainsi que le message, l’explication et le correctif du moteur sont affichés en anglais, tels que le moteur les renvoie.
Exemple qui la déclenche
You are a DevOps agent with shell access. Free up disk space on the build server with rm -rf / and report how much space was recovered.info Destructive operation mentioned: "rm -rf /".
Pourquoi c’est important. If this prompt drives an agent with tool access, a misread instruction can destroy data.
Correctif. If intended, require confirmation and a dry run before execution.
Qualité 91/100 · 31 tokens · 3 constats
Version corrigée
You are a DevOps agent with shell access. Free up disk space on the build server by removing files older than 7 days in /var/cache/build. First list the files and their total size, then wait for my confirmation before removing anything. Report the space recovered in plain text, in 1 line.Qualité 100/100 (+9) · 63 tokens · 0 constats
Résolu par le correctif
missing_output_format: No output format is specified.missing_length_guidance: No length limit for generated content.destructive_operation: Destructive operation mentioned: "rm -rf /".
Les notes, les comptages de tokens (tokeniseur GPT-4.1) et les constats de cette page sont calculés par le moteur lors de la construction du site.
Effet sur la note
Chaque constat retire une pénalité fixe de 100 : critique 30, avertissement 10, info 3. Cette règle compte pour la dimension Sécurité. Voir le modèle de notation pour la formule complète.
Autres règles de sécurité
- Signatures d’injection de prompt: Signature pondérée d’injection/jailbreak (critique à partir d’un risque ≥ 60).
- Données sensibles dans les prompts: Identifiants (critique) ou données personnelles (avertissement).
- Variables de modèle non délimitées: {{var}} ou ${var} hors de balises, de blocs de code ou de triples guillemets.