Haz que las acciones de consecuencia sean explícitas y reversibles
Make consequential actions explicit and reversible
Marca las acciones irreversibles o costosas, admite simulaciones (dry-run) y claves de idempotencia, y exige confirmación antes de ejecutarlas.
Por qué
La falta de confirmación en acciones de consecuencia es la razón por la que los agentes borran datos o gastan de más. El marco canónico de AX (agentexperience.ax — Agent Interactivity Patterns) establece que los flujos sensibles (compras, cambios de credenciales, acciones destructivas) son donde los servicios digitales necesitan puntos de enganche explícitos para mantener la confianza del usuario. Anthropic identifica los puntos de control con persona en el bucle (human-in-the-loop) para acciones irreversibles como un patrón central de producción. El marco 12-Factor Agents lo llama Factor 6 ("Design Pause Points") y lo etiqueta explícitamente como "no opcional". Se enlaza con el antipatrón humano AX-HUM-05 (agentic sludge).
Haz
Señala los efectos secundarios y ofrece una simulación (dry-run).
No hagas
Dejar que una llamada destructiva se ejecute en la primera inferencia.
Artefacto
POST /v1/refunds HTTP/1.1
Idempotency-Key: 5f3c...-once-per-intent
X-Dry-Run: true
Content-Type: application/json
{ "order_id": "ord_123", "amount": 4200 }
{ "dry_run": true, "would_refund": 4200, "currency": "usd", "reversible": false,
"confirm_with": { "header": "X-Dry-Run", "set_to": "false" } }
Fuentes
- [01]agentexperience.ax — Principles of AX ↗
Agent Interactivity Patterns: standardized flows for sensitive interactions — purchases, authenticating users, modifying credentials, destructive actions — are where digital services maintain continuity with end customers
- [02]Anthropic — Building Effective AI Agents ↗
Human-in-the-loop checkpoints for irreversible actions are a core pattern for production agents; the absence of confirmation is how agents cause unintended destructive side effects
- [03]12-Factor Agents — Factor 6: Design Pause Points ↗
Factor 6 is not optional: agents need suspension points for human review, especially for irreversible operations — this is the most commonly violated agent design principle