Pruebas de prompts

Pruebas de prompts

Trata los prompts como archivos de código. Un solo comando revisa todos los prompts de un repositorio frente a un umbral de calidad, un presupuesto de tokens y un nivel de gravedad, y hace fallar la compilación cuando alguno no cumple.

  • CLI
  • Sin conexión
  • Compilar desde el código fuente

Qué hace

Un prompt que funcionaba el mes pasado puede romperse con una edición bienintencionada: un párrafo duplicado, un formato de salida eliminado, una clave pegada. Las pruebas de prompts lo detectan durante la revisión en lugar de en producción.

El comando promptflow check lee los archivos de prompts que le indiques y falla cuando un archivo puntúa por debajo de tu mínimo, usa más tokens que tu máximo o tiene un hallazgo igual o superior a la gravedad elegida. El umbral predeterminado es critical, así que una credencial filtrada siempre falla. La configuración vive en un archivo .promptflowrc.json en la raíz del repositorio.

Son pruebas estáticas. Examinan el texto del prompt y nunca llaman a un modelo, por eso son rápidas, gratuitas e idénticas en cada ejecución. No sustituyen a las pruebas de salida con un modelo; van delante de ellas y eliminan los fallos que no necesitan un modelo para encontrarse. Las pruebas basadas en modelos están en la hoja de ruta y no están disponibles hoy.

Ejemplo práctico

Una regresión detectada por compare

Dos versiones del mismo prompt, comparadas por el motor al construir esta página. La edición parecía inofensiva y eliminó el formato de salida. Los hallazgos del motor y los prompts generados se muestran en inglés, tal como los devuelven el motor y la API.

Versión 1

100/100 · 46 tokens
Summarize the incident report below for the on-call engineering team in 5 bullet points. Include the root cause, the customer impact, and the fix. Return a markdown list.

<report>
{{report}}
</report>

Versión 2

84/100 · 36 tokens
Summarize the incident report below for the on-call engineering team. Include the root cause, the customer impact, the fix, and some other details if relevant.

{{report}}
Calidad
-16
Tokens
-10
Problemas nuevos
3
  • advertenciaTemplate variable not delimited: {{report}}.
  • infoNo output format is specified.
  • infoNo length limit for generated content.

Calculado por el motor al construir esta página. Con la configuración siguiente, la versión 2 supera el control con una puntuación mínima de 70.

.promptflowrc.json
{
  "include": ["prompts/**/*.md"],
  "model": "gpt-4.1",
  "minScore": 70,
  "maxTokens": 2000,
  "failOn": "critical"
}
shell
promptflow check
promptflow compare prompts/summary.v1.md prompts/summary.v2.md

Ventajas principales

Funciones

Para quién es

Casos de uso

Preguntas frecuentes

¿Las pruebas de prompts ejecutan mis prompts con un modelo?

No. Las comprobaciones son estáticas: analizan el texto del prompt con reglas deterministas. Ejecutar prompts con un modelo y puntuar la salida está en la hoja de ruta y no está disponible hoy.

¿La CLI está en npm?

Todavía no. Hasta que se publique el paquete, compila la CLI desde una copia del repositorio. La documentación de la CLI incluye los comandos.

¿Qué tipos de archivo puede revisar?

Cualquier archivo de texto. Apunta los globs de inclusión a los archivos que contienen tus prompts, como archivos Markdown o .prompt.txt.

¿Puedo ignorar una regla?

Sí. Enumera los códigos de regla en ignore dentro de .promptflowrc.json para omitirlos en todo el repositorio.

Todos los productos ejecutan el mismo motor, así que se combinan sin sorpresas.

Aprende la técnica que hay detrás

Guías del centro de conocimiento de ingeniería de prompts que explican las ideas que aplica este producto.

Pruébalo con tu propio prompt.

Gratis, determinista y privado. Sin registro.