Líder em IA e ciência de dados aplicadas a negócios e operações, Rolando Bonaccorsi expõe que a inteligência artificial deixou de ser utilizada apenas como suporte para tarefas específicas e passou a integrar processos capazes de interpretar informações, executar atividades e participar de decisões. Com a expansão dos agentes de IA nas empresas, surge uma nova questão de gestão: quem acompanha seu funcionamento, estabelece limites, avalia resultados e intervém diante de situações inesperadas?
Saiba mais a seguir!
A autonomia dos agentes muda a lógica de gestão
Um agente de IA não funciona necessariamente como um software tradicional, que apenas recebe um comando e devolve uma resposta previamente esperada. Dependendo de sua configuração, ele pode analisar informações, escolher entre diferentes caminhos e executar ações em sistemas conectados. Quanto maior essa autonomia, maior também é a necessidade de estabelecer regras para sua atuação. Esses limites ajudam a definir até onde o agente pode agir sozinho e em quais situações deve solicitar avaliação humana.
Conforme informa Rolando Bonaccorsi, isso cria uma responsabilidade que vai além da escolha da ferramenta. A empresa precisa compreender quais agentes estão em operação, quais atividades podem realizar, quais informações conseguem acessar e quais situações exigem intervenção humana. Sem essa definição, a automação pode avançar mais rapidamente do que a capacidade de controle da organização. Mapear essas condições também permite identificar riscos antes que eles sejam incorporados à rotina dos processos.
A questão, portanto, deixa de ser apenas quem utiliza a inteligência artificial e passa a envolver quem responde pela atuação do sistema. Essa mudança aproxima a gestão de tecnologia de uma função de supervisão contínua, preparando o terreno para uma nova forma de organizar responsabilidades. Nesse modelo, acompanhar o desempenho dos agentes passa a fazer parte da própria gestão dos processos automatizados.
O gestor passa a acompanhar sistemas autônomos
A expansão dos agentes pode modificar o trabalho dos profissionais responsáveis pelas operações. Antes, boa parte do acompanhamento estava concentrada em equipes, aplicações, infraestrutura e processos. Agora, também é necessário observar sistemas capazes de executar etapas do trabalho com diferentes níveis de autonomia. Isso exige novos critérios para identificar desvios, avaliar resultados e definir quando uma intervenção humana é necessária.
Na visão de Rolando Bonaccorsi, essa transformação exige que a gestão de operações considere não apenas a disponibilidade de uma aplicação, mas também o comportamento dos agentes que participam dos fluxos. Desempenho, qualidade das respostas, cumprimento de regras e capacidade de interromper uma execução passam a fazer parte do acompanhamento operacional. Com isso, o monitoramento deixa de olhar somente para a estabilidade dos sistemas e passa a acompanhar também a qualidade das decisões automatizadas.
Nem todo agente precisa do mesmo nível de controle
Um dos principais desafios está em evitar que todos os agentes sejam administrados da mesma maneira. Um sistema utilizado para localizar informações internas apresenta um nível de risco diferente daquele autorizado a alterar registros, movimentar recursos ou iniciar processos automaticamente. Quanto maior for o impacto potencial de uma ação, maior tende a ser a necessidade de supervisão e controle sobre o agente responsável por executá-la.
Por isso, os controles precisam acompanhar o grau de autonomia concedido. Agentes com funções restritas podem operar dentro de parâmetros mais simples, enquanto aqueles que executam ações diretamente sobre processos críticos podem exigir aprovações, registros detalhados, monitoramento permanente e mecanismos para interromper suas atividades. Segundo Rolando Bonaccorsi, essa estrutura permite estabelecer diferentes níveis de acompanhamento sem aplicar a mesma quantidade de restrições a todos os sistemas.
Essa diferenciação também ajuda a evitar dois extremos. Controles excessivos podem reduzir os ganhos esperados com a automação, enquanto permissões amplas demais podem criar riscos difíceis de identificar. O equilíbrio depende de compreender exatamente o que cada agente pode fazer e quais consequências podem surgir de suas decisões. A definição desses limites deve considerar não apenas a tarefa executada, mas também os dados envolvidos e os efeitos de uma eventual falha.