Regelreferenz · Sicherheit
Destruktive Operationen
Wird ausgelöst, wenn: rm -rf /, DROP TABLE, alles löschen, curl | sh.
In einem Chat ist ein destruktiver Befehl nur Text. In einem Agenten mit Shell- oder Datenbankzugriff wird eine missverstandene Anweisung tatsächlich ausgeführt.
Begrenzen Sie die Operation eng, verlangen Sie einen Probelauf, der auflistet, was sich ändern würde, und verlangen Sie vor der Ausführung eine ausdrückliche Bestätigung.
Die Beispiel-Prompts sowie Meldung, Erklärung und Lösung der Engine werden auf Englisch angezeigt, genau so, wie die Engine sie liefert.
Beispiel, das sie auslöst
You are a DevOps agent with shell access. Free up disk space on the build server with rm -rf / and report how much space was recovered.Info Destructive operation mentioned: "rm -rf /".
Warum das wichtig ist. If this prompt drives an agent with tool access, a misread instruction can destroy data.
Lösung. If intended, require confirmation and a dry run before execution.
Qualität 91/100 · 31 Tokens · 3 Befunde
Korrigierte Fassung
You are a DevOps agent with shell access. Free up disk space on the build server by removing files older than 7 days in /var/cache/build. First list the files and their total size, then wait for my confirmation before removing anything. Report the space recovered in plain text, in 1 line.Qualität 100/100 (+9) · 63 Tokens · 0 Befunde
Durch die Korrektur behoben
missing_output_format: No output format is specified.missing_length_guidance: No length limit for generated content.destructive_operation: Destructive operation mentioned: "rm -rf /".
Punktzahlen, Token-Zahlen (GPT-4.1-Tokenizer) und Befunde auf dieser Seite werden beim Erstellen der Website von der Engine berechnet.
Wie sie die Punktzahl beeinflusst
Jeder Befund zieht einen festen Betrag von 100 ab: kritisch 30, Warnung 10, Info 3. Diese Regel zählt zur Dimension Sicherheit. Die vollständige Formel steht im Bewertungsmodell.
Weitere Regeln der Dimension Sicherheit
- Prompt-Injection-Signaturen: Gewichtete Injection-/Jailbreak-Signatur (kritisch ab Risiko ≥ 60).
- Sensible Daten in Prompts: Zugangsdaten (kritisch) oder personenbezogene Daten (Warnung).
- Nicht abgegrenzte Vorlagenvariablen: {{var}} oder ${var} außerhalb von Tags, Codeblöcken oder dreifachen Anführungszeichen.