Construindo confiança por meio de Assurance em um mundo impulsionado pela IA

Um mundo impulsionado pela IA requer um enfoque abrangente dos serviços de Assurance, construindo uma base de confiança e transparência.

Em resumo

• A inteligência artificial (IA) está mudando as regras do jogo em Assurance, ampliando a necessidade de abordar o risco e a transparência na tomada de decisões.
• A governança, a imparcialidade, as fontes de dados e a segurança são pontos focais críticos para os novos serviços de Assurance em torno da tecnologia de IA.
• Práticas sólidas de Assurance são fundamentais para gerar confiança na IA, permitindo que as empresas obtenham benefícios e mitiguem riscos.

A IA deverá ter um impacto transformador na profissão contábil. Líderes e profissionais veem oportunidades, mas também desafios, enquanto avaliam programas piloto, experimentam casos de uso de menor risco e calculam o retorno potencial. Desde a análise automatizada de transações até a avaliação de riscos impulsionada por IA, os requisitos de eficiência e precisão são significativos. Se, por um lado, as ferramentas emergentes de IA agente podem automatizar completamente as tarefas rotineiras, com a supervisão e a governança humanas adequadas, por outro, os mesmos sistemas que prometem agilizar os processos contábeis e de auditoria também introduzem novos riscos.

O sucesso nesse novo paradigma requer novos serviços que ajudem a proporcionar transparência e verificação independente. O ambiente regulatório da IA não é claro em áreas como o controle interno sobre as informações financeiras, o que gera certa cautela em sua implementação. A supervisão regulatória e as expectativas públicas impulsionarão a demanda por serviços sólidos de Assurance relacionados à IA. Em outras palavras, existe uma necessidade crescente de Assurance sobre as mesmas tecnologias que estão mudando os serviços.

Monitoramento de sistemas de IA existentes

Para os sistemas de IA existentes, Assurance deve se concentrar em um monitoramento contínuo que ajude a validar que esses sistemas continuam a ter o desempenho esperado. Isso inclui avaliar a confiabilidade das fontes de dados, monitorar o deslocamento (drift) e realizar avaliações periódicas do desempenho do modelo. Aproveitar as competências centrais dos profissionais de Assurance em documentação de processos, testes de controles internos e verificação baseada em evidências é essencial para manter a integridade e a eficácia dos sistemas de IA ao longo do tempo. As partes interessadas demandarão uma supervisão contínua para ajudar a garantir que as estruturas de IA se adiram aos padrões de conformidade e aos parâmetros operacionais.

Governança e linhagem de dados

Os dados financeiros representam uma oportunidade ainda não explorada para agregar maior valor em tempo real. Reguladores e partes interessadas querem saber de onde vêm os dados críticos, como são transformados e se são precisos e completos. Uma atestação independente que valide a rastreabilidade dos dados através dos sistemas de uma organização é especialmente importante no caso de dados utilizados nas informações financeiras ou nas divulgações regulatórias.

Auditorias algorítmicas

As metodologias aplicadas podem ajudar a avaliar objetivamente se os sistemas de IA produzem resultados confiáveis, seja por causas associadas aos dados ou ao modelo, e fornecer um quadro para que a administração implemente a IA com confiança.

Processos e sistemas melhorados com IA

À medida que os sistemas de manufatura, logística e infraestrutura começam a se integrar com IA física e tecnologias relacionadas, será necessário que os profissionais de Assurance avaliem o papel da IA nos processos existentes, os riscos que a IA introduz e verifiquem a precisão e integridade dos dados e dos resultados que a IA produz a partir dessa integração.

Auditorias de programas de cibersegurança

Os repositórios de dados de IA, que podem incluir dados confidenciais e pessoais, representam um alvo principal para hackers, e a introdução de plataformas ou fontes de dados de IA de terceiros cria novas áreas de exposição. Ao mesmo tempo, os hackers estão aproveitando a IA para ataques mais sofisticados, utilizando-a para aprender e iterar, encontrando o momento e o método adequados para executar. Isso eleva as exigências sobre como as empresas devem se proteger e requer um escopo e rigor ampliados dos serviços de Assurance.

IA agente

A IA agente eleva as apostas tanto para o potencial da IA quanto para a necessidade de Assurance sobre seu uso. Embora o uso da IA exija compreender a fonte dos dados e uma tomada de decisões transparente, a IA agente introduz autonomia na tomada de decisões – em essência, funcionários digitais capacitados com ferramentas para executar processos de negócios. Por exemplo, um LLM poderia fornecer informações incorretas que levem uma pessoa a tomar uma má decisão, enquanto um agente de IA estaria capacitado para tomar a decisão sem intervenção humana. O Assurance requer não apenas um enfoque para considerar o que poderia ocorrer, mas um quadro em tempo real para monitorar como essa força de trabalho digital opera, estabelecendo barreiras de proteção humanas ou de TI para um modelo operacional agente e como prevenir de antemão uma má decisão.

Conclusões

Em um mundo impulsionado pela IA, o papel de Assurance está evoluindo para abordar as complexidades que as novas tecnologias introduzem. À medida que as organizações confiam cada vez mais na IA para funções críticas, a demanda por verificação independente da governança, conformidade e segurança dos sistemas de IA se torna primordial. Por meio do uso de metodologias avançadas, os sistemas de IA existentes podem ser monitorados e a governança de dados pode ser validada e aprimorada. Em última análise, práticas sólidas de Assurance fomentarão a confiança nas tecnologias de IA, permitindo que as organizações aproveitem todo o seu potencial enquanto mitigam os riscos associados..

Este artigo é uma tradução do original: Building trust through assurance in an AI-driven world, publicado no site da EY nos Estados Unidos. Seus autores são Richard Jackson, Diretor de Tecnologia de Auditoria da EY Américas; Líder da EY Global e da EY Américas para IA em Auditoria; e David Wood, Professor Glenn D. Ardis da Escola de Contabilidade da Marriott School of Business, Universidade Brigham Young, Estados Unidos.