Aprobación humana de herramientas: qué autoriza una persona ante un agente de IA

Un agente puede preparar una acción sin tener autorización para ejecutarla. Entender esa diferencia ayuda a delegar tareas conservando decisiones sobre sus efectos.

Por Daniel Sardá · Publicado el

5 min de lectura1.066 palabras

En este artículo · 5 secciones

El correo está redactado y el destinatario, seleccionado. Falta pulsar «enviar». Si un agente de inteligencia artificial ha preparado el mensaje, ese último paso puede quedar pendiente de una decisión humana. La diferencia importa: preparar un texto y comunicarlo a otra persona tienen efectos distintos.

La aprobación humana de herramientas es la decisión de autorizar una acción propuesta por un agente, dentro de un sistema configurado para pedir esa intervención. Aunque el nombre alude a las herramientas, lo que suele someterse a revisión es un uso concreto: enviar este mensaje, a este destinatario, con este contenido.

Para entender cuánto control ofrece esa aprobación, hay que mirar qué permite decidir y qué ocurre después.

La herramienta es la capacidad; la acción es su uso concreto

En este contexto, un agente es un sistema de IA que puede proponer operaciones para realizar una tarea. Una herramienta le proporciona una capacidad, como consultar información o enviar un correo. La llamada a esa herramienta es la petición de utilizarla con unos datos determinados.

Así, disponer de una herramienta de correo no equivale a haber autorizado cualquier envío. Una cosa es habilitar la capacidad y otra permitir una operación específica. La aprobación humana introduce un punto de decisión sobre esa operación, si el flujo lo contempla.

No todos los agentes solicitan confirmación antes de actuar. Por ejemplo, el mecanismo de revisión humana de LangChain puede interrumpir llamadas seleccionadas antes de ejecutarlas. Las decisiones disponibles dependen de la configuración; esta implementación no describe el comportamiento de todos los sistemas.

De la propuesta a la ejecución

Un flujo con revisión previa puede seguir esta secuencia: el agente propone una acción, el sistema presenta la información necesaria, una persona decide y el flujo continúa según esa respuesta. Lo decisivo es que la revisión ocurra antes del efecto que se quiere controlar.

Aprobar, rechazar y modificar tampoco significan lo mismo. En el mecanismo documentado por LangChain, aprobar conserva los datos propuestos para la llamada; editar permite cambiarlos; rechazar omite esa llamada y devuelve información al agente. Rechazar una operación, por tanto, no implica necesariamente cancelar toda la tarea. Estas opciones están sujetas a lo que el sistema haya habilitado.

Además, autorizar no es comprobar el resultado. Una vez aprobada una acción, todavía hace falta saber si se ejecutó y qué respuesta produjo. En el caso del correo, la confirmación de la persona expresa permiso para continuar; por sí sola no demuestra que el mensaje se haya enviado ni que haya llegado a su destinatario.

Los permisos y la revisión posterior cumplen otras funciones

Un permiso general delimita qué puede utilizar el agente. La aprobación puntual responde a una pregunta más estrecha: si debe realizar esta operación ahora. Confundir ambos niveles puede llevar a conceder un alcance mayor del que la persona cree estar aceptando.

También existen políticas que autorizan acciones sin una revisión humana de cada petición. La documentación de Claude Managed Agents, una función en beta, distingue políticas que permiten ejecutar, políticas que esperan aprobación y una evaluación automática que puede permitir, denegar o solicitar intervención. En ese producto, esas políticas de permisos se aplican a las herramientas ejecutadas en el servidor; no describen todas las herramientas que una aplicación pueda incorporar.

La supervisión posterior cumple otra función: examinar lo que ya ocurrió. Puede servir para detectar problemas y revisar decisiones futuras, pero llega después de la acción. Leer un mensaje enviado permite evaluar su contenido; no ofrece la misma oportunidad de intervenir que revisarlo antes del envío.

Automatización, aprobación previa y revisión posterior pueden coexistir. Para evaluar el control disponible, conviene identificar cuál de ellas se aplica a cada operación.

Qué habría que revisar antes de enviar ese correo

Imaginemos que una persona pide a su agente redactar una respuesta a un proveedor. El agente prepara un mensaje con una fecha de entrega y adjunta un documento. Antes de enviarlo, solicita autorización.

Como criterio de revisión, la persona debería poder comprobar:

  • La acción: si se va a guardar un borrador o a enviar el mensaje.
  • El destinatario: a quién llegará y quién recibirá copia.
  • El contenido: el texto, la fecha propuesta y los archivos adjuntos.
  • El alcance del permiso: si la decisión vale para ese envío o también para operaciones futuras.

Estos son elementos recomendables para decidir con conocimiento. No cabe suponer que cualquier interfaz los muestre de forma completa.

Si el destinatario es incorrecto, aprobar un texto bien redactado no resuelve el problema. Si el documento adjunto contiene información que no debe compartirse, revisar únicamente el cuerpo del mensaje tampoco basta. La operación incluye todos esos elementos.

Una aprobación limitada a ese correo debería corresponder a lo que la persona examinó. Si después cambia materialmente el destinatario, el contenido o el archivo adjunto, el criterio razonable es solicitar una nueva decisión. Que el sistema lo haga automáticamente es una característica que habría que comprobar en cada implementación.

Idea clave: Una confirmación útil permite entender qué va a pasar y hasta dónde llega el permiso concedido.

Cuándo la confirmación ofrece poco control

Un botón puede estar presente y, aun así, dejar cuestiones esenciales sin aclarar. Una pregunta como «¿Permitir continuar?» aporta poco si no permite reconocer la operación o sus consecuencias previsibles.

La frecuencia también requiere cuidado. Pedir aprobación para cada paso menor puede favorecer respuestas mecánicas; reservarla para acciones relevantes puede facilitar una revisión atenta. Se trata de un criterio de diseño, no de una garantía: la frecuencia adecuada depende de los efectos de las acciones y del margen de decisión que se quiera conservar.

Desde una perspectiva de autonomía individual, delegar resulta valioso cuando amplía la capacidad de actuar y permite mantener decisiones sobre recursos, información y relaciones personales. La calidad del control depende tanto de la posibilidad de rechazar como de comprender lo que se está aceptando. La idea de consentimiento informado ayuda a plantear esa exigencia, sin convertir un clic en prueba suficiente de validez jurídica ni atribuir automáticamente responsabilidades legales.

Idea clave: La aprobación expresa una autorización; no garantiza seguridad, acierto ni éxito de la operación.

En el correo del ejemplo, el punto de decisión es concreto: permitir que ese contenido salga hacia ese destinatario. Un buen mecanismo de aprobación hace visible esa elección, deja claro su alcance y permite comprobar después qué ocurrió. Ese es el criterio práctico para juzgar cuánto control conserva la persona al delegar.

Sobre el autor

Daniel Sardá es SEO Specialist, técnico superior universitario en Comercio Exterior por la Universidad Simón Bolívar y editor de Libertatis Venezuela. Escribe sobre liberalismo, economía política, instituciones, propaganda y libertad individual desde una perspectiva independiente y no partidista.

Leer perfil completo