OPRIVON · Español
Aprobación humana de acciones de agentes de IA
Una IA puede redactar una propuesta sin tener permiso para ejecutarla. La supervisión humana exige roles claros, información comprobable y capacidad de detener la operación.
Clasificar por impacto
Una síntesis interna no tiene el mismo riesgo que enviar archivos confidenciales, emitir un reembolso o modificar datos de clientes. Ajusta cada aprobación al impacto y a la reversibilidad de la operación.
Separar funciones
Define quién solicita, revisa y autoriza. Verifica permisos técnicamente y limita su duración. En operaciones sensibles puede resultar necesario un segundo aprobador; un mensaje dentro del prompt no sustituye los controles de acceso.
Mostrar pruebas
La pantalla de revisión debe explicar qué va a pasar, con qué datos y qué incertidumbres existen. No basta un botón genérico de aceptar. Si faltan fundamentos, el caso debe regresar a revisión o escalarse.
Preparar la intervención
Incluye cancelación, revocación de permisos y registros verificables. Ensaya errores antes del uso real: cómo detener una tarea, corregir una acción y comunicar un incidente sin perder trazabilidad.
Ejemplo práctico: aprobar antes de cambiar un pedido
Un asistente puede sugerir la modificación de una entrega, pero no debería modificar por sí solo un pedido confirmado. El control humano necesita información suficiente y una autorización ejecutada por el sistema, no únicamente declarada en el texto.
- Mostrar qué cambia: Antes de aprobar, presentar número interno, campo anterior, cambio propuesto y fuente que justifica la petición; ocultar datos que el revisor no necesita.
- Comprobar la autoridad: Verificar en el sistema la identidad y el rol de quien aprueba. Separar la revisión del acto de modificación y pedir una segunda autorización cuando exista impacto económico.
- Preparar una recuperación: Registrar el resultado y un identificador de operación, sin copiar datos personales innecesarios. Si la fuente es contradictoria o la aprobación caduca, detener el cambio y abrir una revisión manual.