Справочник по правилам · Безопасность
Разрушительные операции
Срабатывает, когда: rm -rf /, DROP TABLE, удалить всё, curl | sh.
В чате разрушительная команда — просто текст. В агенте с доступом к оболочке или базе данных неверно понятая инструкция выполняется по-настоящему.
Чётко ограничьте операцию, потребуйте пробный запуск, перечисляющий, что изменится, и потребуйте явного подтверждения перед выполнением.
Примеры промптов, а также сообщение, объяснение и исправление движка показаны на английском — ровно так, как их возвращает движок.
Пример, вызывающий срабатывание
You are a DevOps agent with shell access. Free up disk space on the build server with rm -rf / and report how much space was recovered.инфо Destructive operation mentioned: "rm -rf /".
Почему это важно. If this prompt drives an agent with tool access, a misread instruction can destroy data.
Исправление. If intended, require confirmation and a dry run before execution.
Качество 91/100 · токенов: 31 · замечаний: 3
Исправленная версия
You are a DevOps agent with shell access. Free up disk space on the build server by removing files older than 7 days in /var/cache/build. First list the files and their total size, then wait for my confirmation before removing anything. Report the space recovered in plain text, in 1 line.Качество 100/100 (+9) · токенов: 63 · замечаний: 0
Устранено исправлением
missing_output_format: No output format is specified.missing_length_guidance: No length limit for generated content.destructive_operation: Destructive operation mentioned: "rm -rf /".
Оценки, число токенов (токенизатор GPT-4.1) и замечания на этой странице вычисляются движком при сборке сайта.
Как это влияет на оценку
Каждое замечание вычитает из 100 фиксированный штраф: критическое 30, предупреждение 10, заметка 3. Это правило относится к измерению Безопасность. Полную формулу см. в модели оценки.
Другие правила измерения «безопасность»
- Сигнатуры инъекции в промпт: Взвешенная сигнатура инъекции/джейлбрейка (критично при риске ≥ 60).
- Чувствительные данные в промптах: Учётные данные (критично) или персональные данные (предупреждение).
- Переменные шаблона без разделителей: {{var}} или ${var} вне тегов, блоков кода и тройных кавычек.