Para gerir milhares de agentes de IA, empresas adotam novo modelo de governança

Se antes as empresas lidavam com alguns poucos agentes de inteligência artificial, hoje a interação já está na casa dos milhares. A proliferação dos agentes de IA – robôs autônomos especializados em tarefas que vão do atendimento ao cliente à gestão financeira – traz o desafio de como fazer a governança deles. Diferentemente do início, que havia a possibilidade de acompanhar diariamente cada um dos agentes de IA, já que o número não era elevado, agora passou a ser impossível fazer isso com os milhares de agentes espalhados por diferentes áreas da organização. Essa força de trabalho que cresce em escala geométrica pode cometer erros que trarão prejuízos financeiros e reputacionais para a organização. É nesse contexto que surge a chamada federação de agentes, que cria uma fundação técnica e normativa para gerir todos esses robôs atuantes na empresa.

“Passamos por isso na EY, motivo pelo qual conhecemos os desafios inseridos. Temos hoje 50 mil agentes de IA atuando no Brasil e no mundo. Por já termos vivenciado essa experiência, decidimos compartilhá-la com o mercado, com nossos clientes, por meio do framework chamado de federação de agentes”, diz Andrei Graça, sócio-líder de inteligência artificial e dados da EY Brasil. “Aqui na EY, temos nossa própria plataforma de IA generativa, que é o EYQ, desenvolvido pela companhia após investimento global bilionário e que tem sido aprimorado com base nas nossas experiências”, complementa.

O primeiro passo da implementação da governança é fazer um inventário, que se caracteriza por cinco definições principais. A primeira diz respeito a quem será o dono do agente, ou seja, o profissional responsável por suas ações. Na sequência, é preciso definir o domínio do agente, o que significa delimitar os dados e sistemas que ele pode acessar. A terceira é restringir o acesso dos agentes, já que cada agente ou conjunto de agentes deve acessar determinados bancos de dados e sistemas. Como quarta definição, há necessidade de analisar a finalidade do agente, o que passa por descobrir se o agente executa algo realmente relevante para o negócio e se existe redundância nesse trabalho com outros agentes. Por fim, faz parte do inventário a análise do custo do agente com o retorno proporcionado por ele.  

“Há quem tenha começado a usar os agentes de IA de forma desgovernada, sem integração entre as áreas do negócio, o que traz desconhecimento de como estão sendo efetivamente utilizados”, observa o executivo. Na sequência, ultrapassado esse momento do inventário, é preciso definir os fornecedores com os quais a empresa quer trabalhar, que façam sentido para sua estrutura técnica, além das ferramentas que serão adotadas. “Fazendo um paralelo com nosso dia a dia de usuário, isso significa escolher entre Gemini, ChatGPT e DeepSeek, por exemplo. Também passa por saber as ferramentas permitidas para uso pelos funcionários”, diz Andrei. Isso porque deve haver idealmente uma estrutura tecnológica que adote os mesmos sistemas e ferramentas para facilitar a padronização e, por consequência, a aplicação da governança.

Tendo clareza sobre todos esses passos iniciais, Andrei comenta que, a partir disso, há espaço para a aplicação da federação de agentes. O caminho passa a ser definir a estrutura de governança por trás desses agentes de IA, com a separação de papéis, a definição da matriz de responsabilidades e dos processos internos para mitigar os riscos de erro ou de inovação por parte da tecnologia. “Caso eles venham a ocorrer em último caso, vencidas todas as etapas preventivas, a federação garante que os profissionais responsáveis sejam avisados a tempo de evitar maiores prejuízos financeiros e reputacionais”, explica. 

Um aspecto curioso da verificação do trabalho dos agentes é que essa supervisão se dá, em um primeiro momento, por outros agentes. Chamada de orquestração de agentes, essa técnica define uma hierarquia entre eles para que, a exemplo da forma como os humanos se organizam, haja sempre um supervisor responsável. Não apenas esse supervisor fiscaliza o trabalho de vários agentes ao mesmo tempo, como também sabe quem são todos eles, podendo delegar a tarefa ao agente que realmente sabe realizá-la.

Todo esse trabalho da federação de agentes foi realizado pela EY para uma mineradora brasileira, que, no início do projeto, usava apenas 30 agentes de IA em sua operação. “Quando terminamos a implementação, ela já utilizava cerca de mil agentes, planejando chegar a cinco mil no fim deste ano”, diz Andrei. “Isso só foi possível porque definimos as permissões necessárias para atuação dos agentes nas diferentes tarefas internas da companhia, bem como as outras características de governança já comentadas”, completa.

Supervisão humana

A utilização dos agentes de IA, que tem aumentado a produtividade das organizações, requer supervisão humana. Faz parte da federação de agentes notificar o humano responsável pelo projeto ou pela atividade no caso de algo estranho estar acontecendo. Pode ocorrer algum erro ou inovação da IA por parte desses agentes, não seguindo o regramento interno, por exemplo. “Eventualmente, esses agentes podem fazer algo que fuja da normalidade ou do esperado, até porque esse é um comportamento inerente dos agentes de IA. Sem a federação de agentes, que cria uma governança com mecanismos de controle, a empresa não vai ficar sabendo”, pontua Andrei. 

Além de um framework de governança, a federação tem uma arquitetura voltada para a escalabilidade e observabilidade dos sistemas de IA. Para poder contar com mais de mil agentes, a empresa precisa ter um ecossistema que permita conectá-los de forma segura, confiável (do ponto de vista de disponibilidade, qualidade e latência do serviço) e sustentável (do ponto de vista de custo) em diferentes sistemas, como ERP, CRM, banco de dados e aplicações. “A arquitetura da federação de agentes combina não somente as camadas de integração e segurança, mas também as de observabilidade de custo/resultado (FinOps) e qualidade/propósito do agente”, diz Andrei.

Auditoria de robôs

Daqui a poucos anos, conforme observa Andrei, os agentes de IA farão todas essas atividades que costumam ser auditadas nas empresas, especialmente as de capital aberto, como contas a pagar, contas a receber, todo o fluxo de requerimento ou de requisição de compra, entre outras. Cada uma dessas ações precisa ter acompanhamento e rastreabilidade sob pena de as organizações terem suas contas recusadas.

“Também por isso a governança dos agentes de IA precisa ser desenvolvida com esse olhar para a auditoria e consultoria em diferentes áreas do negócio. Não se trata apenas de usar a tecnologia, mas de saber aplicá-la no dia a dia do negócio em conformidade com frameworks e metodologias que considerem de fato os riscos aos quais as organizações estão sujeitas no uso da IA”, finaliza Andrei.

A inteligência artificial tem sido cada vez mais utilizada pelas empresas para inovar e tornar mais produtivo o dia a dia dos seus negócios. Há, no entanto, diversas dúvidas sobre como desenvolver e operacionalizar esses sistemas evitando os riscos que podem comprometer os resultados financeiros e a reputação das organizações. Nesse contexto, a EY lançou a série “IA aplicada aos negócios: Como utilizar essa tecnologia com segurança e governança para gerar inovação”, que, além desta reportagem, já publicou as seguintes:

IA generativa para fins tributários atende às obrigações fiscais e gera inteligência

Empresas adotam IA generativa na gestão do contencioso tributário

Monitoramento por IA das emissões de metano já é realidade na indústria de gás e petróleo

Indústria de mineração encontra alternativas à abertura de minas por meio da IA

IA possibilita uso inteligente da rede de energia para aproveitar potencial das fontes renováveis

Educação é a base da governança em inteligência artificial

Engajamento dos C-Levels e diretores é característica em comum das empresas bem-sucedidas em IA

Conselheiros de administração no Brasil têm o desafio de inserir IA generativa na agenda de curto prazo

Uso da IA generativa pelas empresas começa com identificação do problema a ser resolvido

Cultura de dados aliada à IA melhora gestão de riscos corporativos

Erro ou criatividade da IA generativa, mesmo em nível baixo, traz riscos para as empresas

IA exige olhar para as transformações que serão viabilizadas pela tecnologia

Empresas consideram que IA generativa será complementar às iniciativas já existentes

IA generativa: 73% das empresas já estão investindo ou planejam investir dentro de um ano

Estruturação dos dados é desafio da área de gestão de riscos das organizações

IA registra mais de 90% de precisão na detecção de ameaças cibernéticas, diz estudo da EY

86% dos CIOs pretendem adquirir ou fechar parceria com plataforma de IA generativa

Uso da IA pelas varejistas traz ganhos em relação aos clientes, colaboradores e cadeia de suprimentos

Uso da IA na infraestrutura viabiliza projetos com monitoramento em tempo real

CEOs concordam que capacitação da força de trabalho vai definir liderança em IA

Geopolítica, tecnologia e ambiente regulatório desafiam departamentos jurídicos

85% dos departamentos jurídicos usam ou pretendem usar IA generativa para buscar jurisprudência

Uso da IA pelo agronegócio pode tornar Brasil ainda mais competitivo no cenário global

Sistemas de IA generativa precisam ser continuamente confrontados ou testados

Empresas podem obter incentivos fiscais com seus investimentos em IA

Uso da IA contra ameaças cibernéticas cresce entre empresas de tecnologia

IA agêntica já é realidade nas empresas de tecnologia, diz estudo da EY

Estudo da EY indica que 76% da Geração Z já usa IA na vida pessoal e no trabalho

Geração Z considera que uso da IA generativa seria desestimulado pelos professores

Geração Z sabe onde usar IA generativa, mas tem dificuldades de tirar o melhor dela

Redes sociais são principal fonte de informação sobre IA para Geração Z

63% da Geração Z considera que IA traz impacto positivo para a vida

Letramento em IA é passo inicial para implantação bem-sucedida da tecnologia

Adoção efetiva da IA nas empresas depende do engajamento dos colaboradores

Brasil está entre os líderes em índice de população confortável com uso de IA

Maioria dos brasileiros usou IA de forma consciente nos últimos seis meses

47% dos consumidores ainda não fizeram compra recomendada por IA

Detecção de ameaças e monitoramento estão entre principais usos da IA para cibersegurança

Entusiasmo sobre o futuro da IA entre os brasileiros está acima da média global

Governo tem índice mais baixo de confiança para gestão de IA

Em meio à incerteza, empreendedores focam em IA e fortalecimento da cultura

CISOs têm a oportunidade de liderar estratégia de IA das organizações

Uso de IA para prevenção de crimes financeiros ainda é incipiente, indica estudo da EY

Cresce busca por profissionais tributários com fluência em IA, aponta estudo da EY

Dificuldades com IA e cibersegurança são principais riscos para telecom neste ano, diz estudo da EY

45% das empresas reconhecem que dificuldade com tecnologia prejudica função tributária

Uso da IA na auditoria viabiliza testagem de 100% das transações dos clientes

Nove em cada dez CEOs no Brasil esperam por impacto decisivo da IA no negócio

CEOs no Brasil consideram que IA atende ou excede expectativas, diz estudo da EY-Parthenon