Quando todos participam, mas ninguém responde pelo resultado
Um agente de IA recebe uma solicitação, prepara uma resposta e envia para um profissional aprovar. O revisor não sabe quais verificações já foram feitas, o dono do processo imagina que a tecnologia cuidará das exceções e a equipe técnica só é chamada quando a tarefa para. Todos participaram, mas ninguém consegue explicar com clareza quem responde pelo resultado.
Essa ambiguidade é comum quando empresas adicionam agentes a equipes existentes sem redesenhar responsabilidades. O problema não é apenas técnico. Uma squad híbrida precisa de direitos de decisão explícitos, regras para cada passagem de trabalho e um responsável pelo resultado completo do negócio. Sem isso, a automação pode acelerar tarefas enquanto aumenta filas, revisões duplicadas e incidentes sem resolução.
Comece pelo resultado e pelas decisões
Antes de distribuir tarefas, defina o resultado que o fluxo deve produzir e a evidência que comprova sua conclusão. Depois, liste as decisões ao longo do caminho. Qual solicitação é elegível? Quais dados podem ser usados? O que pode ser aprovado automaticamente? O que exige uma pessoa? Quem pode alterar a regra?
O AI Risk Management Framework do NIST recomenda papéis, responsabilidades e linhas de comunicação claros e documentados para a gestão de riscos de IA. Também orienta a criação de políticas que diferenciem os papéis em configurações formadas por pessoas e IA. Na prática, a squad precisa saber quem responde pelo processo, quem configura o agente, quem revisa resultados sensíveis e quem monitora o serviço em produção.
Quatro responsabilidades que não devem ficar implícitas
O dono do processo define o objetivo, o resultado aceitável, as regras de negócio e a prioridade das melhorias. Essa pessoa continua responsável mesmo quando um agente executa a maior parte das etapas. O agente possui um papel de execução dentro de limites documentados. Ele reúne informações, propõe ou realiza ações, registra evidências e interrompe o trabalho quando uma condição definida não é atendida.
O revisor humano avalia casos que ultrapassam esses limites. A revisão deve ter uma finalidade clara, como validar um valor financeiro alto, resolver dados conflitantes ou aprovar uma ação irreversível. Ela não pode virar uma fila genérica onde todo resultado é aceito sem análise. Por fim, o responsável pela plataforma ou operação mantém integrações, permissões, monitoramento, resposta a incidentes e recuperação. Esse papel impede que uma exceção de negócio seja confundida com uma falha do sistema.
Em uma iniciativa pequena, uma pessoa pode assumir mais de uma responsabilidade, desde que elas continuem definidas separadamente.
Desenhe cada passagem como um acordo operacional
Uma passagem de trabalho precisa de mais do que uma notificação. Defina a entrada recebida, o resultado esperado, a evidência anexada, o prazo de resposta e o que acontece se ninguém agir. Um agente que pede aprovação deve mostrar a ação proposta, os dados relevantes, a regra aplicada e o motivo do escalonamento. O revisor precisa conseguir aprovar, corrigir ou devolver o caso sem perder seu histórico.
O guia prático da OpenAI para construção de agentes recomenda intervenção humana quando limites de falha são ultrapassados e antes de ações sensíveis, irreversíveis ou de alto impacto. O People + AI Guidebook do Google também destaca o equilíbrio entre controle e automação, com meios para o usuário corrigir o sistema e retomar o controle.
Exemplo hipotético: revisão de propostas comerciais
Considere uma empresa hipotética de serviços B2B, que não é um caso de cliente da NM Solutions. Um agente comercial reúne informações do CRM, consulta um catálogo de serviços e prepara uma proposta. O executivo de contas revisa o contexto do negócio, enquanto o financeiro aprova condições fora da margem padrão. A equipe de plataforma mantém disponíveis as integrações com CRM e documentos.
O dono do processo define primeiro quais produtos, segmentos de clientes e faixas de preço são elegíveis. O agente pode preparar propostas padrão, mas não pode enviá-las. Ele anexa as fontes dos dados, os cálculos e qualquer campo ausente. O executivo corrige o contexto e confirma a mensagem final. Um desconto acima do limite segue para o financeiro com o motivo registrado. Se os dados do CRM forem conflitantes, o caso volta para a fila comercial em vez de produzir uma proposta plausível, mas sem sustentação.
A squad acompanha propostas aceitas, correções por motivo, tempo de espera em cada passagem, incidentes e casos enviados para fora do caminho padrão. Essas medidas ajudam a saber se as responsabilidades estão equilibradas ou se o agente apenas transferiu trabalho para uma fila de revisão.
Aumente a autonomia mudando limites, não removendo responsáveis
À medida que as evidências melhoram, a squad pode permitir que o agente conclua automaticamente casos de baixo risco. Essa mudança deve atualizar permissões, limites de aprovação, monitoramento e a matriz de responsabilidades. O dono do processo continua respondendo pelo resultado do negócio, e o responsável pela operação continua recuperando o serviço quando um componente falha.
Mantenha um registro das entradas, ações propostas e executadas, aprovações, correções e versões das regras relevantes. Revise amostras de casos aparentemente bem-sucedidos, não apenas falhas. O feedback deve gerar uma ação concreta, como alterar instruções, melhorar dados, ajustar um limite ou preparar revisores. Sem esse ciclo, a empresa coleta opiniões, mas não melhora o sistema.
Reconheça os limites do modelo
Uma matriz de responsabilidades não elimina erros do modelo, dados incompletos, falhas de acesso ou objetivos de negócio conflitantes. Revisores humanos podem ficar sobrecarregados e aprovar mecanicamente. Áreas diferentes podem interpretar o mesmo limite de formas distintas. Fornecedores externos também podem alterar modelos, limites ou integrações. Por isso, as responsabilidades devem ser testadas com casos reais e revistas depois de incidentes ou mudanças no processo.
O objetivo não é colocar uma pessoa depois de cada ação do agente. É tornar visíveis a autoridade e a recuperação. A NM Solutions ajuda empresas a mapear decisões, definir limites entre pessoas e agentes, estruturar passagens de trabalho e estabelecer os controles operacionais necessários para squads híbridas. Uma conversa de diagnóstico pode identificar onde a falta de responsáveis limita hoje uma automação segura.