OPRIVON · Português
Aprovação humana de ações de agentes de IA
Gerar uma proposta não significa ter permissão para a executar. A supervisão humana precisa de responsáveis identificados, informação verificável e controlo dos efeitos de cada ação.
Classificar o impacto
Produzir um resumo tem menor impacto do que enviar ficheiros confidenciais, alterar clientes ou autorizar pagamentos. As validações devem refletir o risco e a possibilidade de reverter cada passo.
Separar permissões
Defina quem solicita, quem analisa e quem confirma. Aplique permissões técnicas e prazos de acesso; instruções de texto não substituem autenticação e autorização.
Mostrar o que será feito
Antes de aprovar, apresente dados envolvidos, fontes, incertezas e efeitos previstos. Quando faltam elementos, encaminhe o processo para esclarecimento em vez de aceitar automaticamente.
Preparar interrupção e correção
Inclua mecanismos de parar, revogar acesso e registar decisões. Teste incidentes e procedimentos manuais antes de utilizar o fluxo num contexto real.
Exemplo prático: aprovar alterações antes de executar
Uma IA pode propor alterar uma encomenda, mas isso não lhe concede autorização para modificar registos reais. A aprovação deve acontecer no sistema, com a pessoa responsável a compreender as consequências.
- Explicar a alteração: Mostrar identificador interno, valor anterior, proposta e fundamento. Evitar expor detalhes de clientes que não sejam necessários para a decisão.
- Separar permissões: Validar tecnicamente a identidade e as funções de cada aprovador. Reservar decisões de maior impacto financeiro para uma segunda validação quando adequado.
- Tratar exceções: Cancelar propostas sem fundamento ou com autorização expirada. Guardar somente o registo indispensável e encaminhar o caso para correção humana.