Artigo: Inovação responsável em IA por meio da governança

Com a crescente adoção da inteligência artificial, as instituições financeiras enfrentam desafios significativos, incluindo preocupações com vieses algorítmicos, segurança de dados e conformidade regulatória. Estudos da EY revelam que 92% das empresas que utilizam IA em soluções de compliance estão preocupadas em estabelecer processos que observem os riscos associados a essa tecnologia, como segurança da informação e ética no uso dos algoritmos.

Além disso, uma pesquisa recente da EY mostrou que 82% dos CEOs acreditam que a transparência na IA generativa é fundamental para conquistar a confiança dos clientes. Isso ressalta a urgência de implementar políticas que garantam o uso responsável da IA.

Metodologia de Governança

Recentemente, a EY lançou um paper que aborda a implementação da IA responsável e escalável no setor financeiro. O documento apresenta uma metodologia integrada que combina os frameworks da EY com soluções de governança avançadas, como o watsonx.governance da IBM. Essa abordagem permite que instituições financeiras gerenciem modelos de IA de maneira ética e eficiente, assegurando que a tecnologia não apenas cumpra requisitos regulatórios, mas também sirva como motor de inovação responsável. Os frameworks da EY incluem alguns passos cruciais para a governança da IA. Esses passos garantem que as organizações possam escalar suas operações de IA com segurança, minimizando riscos operacionais e reputacionais. 

• Governança em todo o processo: Estabelece diretrizes claras para o pré-ciclo e ciclo de vida da implementação de todos os ativos de IA (prompt, agentes, sistemas, entre outros), possibilitando que as instituições implementem as melhores práticas do mercado e que estejam aderentes a regulamentações (atualmente, no Brasil, temos somente um projeto de lei, mas a regulação da União Europeia – AI Act – norteou nosso estudo).

• Mitigação de riscos de viés e proteção de dados: Foca na análise de viés em algoritmos e na proteção de dados sensíveis, garantindo conformidade com legislações como a LGPD (Lei Geral de Proteção de Dados).

• Validação e testes rigorosos de modelos: Realiza análises detalhadas para garantir que os modelos de IA operem de forma precisa e ética, por meio de um red team que fica a todo momento confrontando as soluções com o objetivo de identificar gaps e vieses.

• Aprovação de um comitê disciplinar antes que os casos de uso sejam inseridos nas plataformas.

• Monitoramento contínuo dos modelos de IA: Implementa sistemas de monitoramento para garantir que os modelos se mantenham eficazes e seguros ao longo do tempo.

• Conformidade regulatória e compliance: Assegura que todas as operações estejam alinhadas às normas e regulamentações do setor.

Concedi recentemente uma entrevista ao Brazil Economy, ocasião em que discuti a relevância da IA responsável e as melhores práticas para sua implementação no setor financeiro. Enfatizei que uma governança robusta é fundamental para evitar erros de alucinação nos sistemas de IA, garantindo que a tecnologia traga benefícios tanto para os negócios quanto para a sociedade.

Além disso, no podcast apresentado pela CBN, abordei a necessidade de um diálogo contínuo sobre a ética na IA, destacando como as empresas podem adotar uma abordagem responsável que equilibre inovação e compliance. O podcast trouxe insights valiosos sobre como as organizações podem se preparar para os desafios da IA generativa e a importância de uma governança eficaz. 

Aprendizados sobre a adoção da IA

• Mentalidade exponencial: Instituições já estão adotando uma mentalidade exponencial, possibilitando pensar de forma disruptiva na resolução de problemas complexos que envolvem IA. Estabelecer IA responsável para suportar essa jornada é fundamental.

• Ética e responsabilidade: É necessário estabelecer uma abordagem ética na implementação de tecnologias emergentes. Isso está alinhado com a missão da EY de promover uma IA responsável e transparente, garantindo que a tecnologia beneficie a sociedade como um todo.

• Interdisciplinaridade: A colaboração entre as competências internas de Risco, Law e Tech é fundamental para uma implementação eficaz da IA responsável. A EY reconhece que a intersecção dessas áreas é crucial para entregar uma solução end-to-end para nossos clientes.

• Aceleradores de mudança: Os principais aceleradores de mudança que estão moldando o futuro das organizações são IA, biotecnologia e robótica. Compreender essas tecnologias permite que as empresas se preparem melhor para as transformações que virão.

Um futuro sustentável com IA

A EY se posiciona como líder no setor financeiro ao adotar práticas de governança robustas e responsáveis, contribuindo para um futuro no qual a tecnologia e a ética caminham lado a lado. A colaboração com a IBM, exemplificada em projetos como os desenvolvidos para o Banco do Brasil, representa um passo significativo para a transformação digital responsável, garantindo que a IA seja um ativo estratégico com benefícios para todos.