Quatro maneiras pelas quais os Conselhos podem apoiar o uso eficaz da IA

“Garbage in, garbage out” são palavras de ordem daqueles que usam dados para apoiar modelos de negócios e operacionais, e para a tomada de decisões. A expressão, que tem como significado básico no português “a qualidade da saída (output) é determinada pela qualidade da entrada (input)”, ressona especialmente no contexto da supervisão da IA e de outras tecnologias emergentes. A IA generativa (GenIA), por exemplo, precisa de dados limpos e úteis – variando de texto e código a imagens e áudio – para construir modelos robustos que levem a resultados atrativos e produtivos. Preparar os dados corretamente pode exigir recursos substanciais. Além disso, a construção da infraestrutura tecnológica, incluindo sistemas de armazenamento, acesso e organização, é fundamental para o uso da GenIA e de outras tecnologias novas ou emergentes em toda a empresa.

As organizações gastam milhões para resolver problemas de qualidade de dados – e nem sempre com sucesso. No futuro, esses esforços serão fundamentais para o uso eficiente de investimentos em tecnologia, incluindo a utilidade da IA.

Grande parte desse trabalho é intensivo e manual, e não é profissionalmente gratificante. Curiosamente, a própria GenIA pode ser capaz de reduzir parte do sofrimento que esse trabalho tradicionalmente exigia, e pode ser que os dados não precisem ser perfeitos. Os dados de terceiros podem ser uma opção melhor para alguns, mas mesmo que outras formas de acessá-los, como o pool de dados, estejam surgindo, isso pode ser proibitivo em termos de custo para muitas empresas. Além disso, sem a infraestrutura certa, será difícil incorporar novas tecnologias e processos nos fluxos de trabalho dos funcionários e alcançar os objetivos estratégicos. Para as empresas, deixar de fazer isso bem criará riscos reais, que vão desde a reputação até a segurança (incluindo violações cibernéticas). O cenário de fornecedores para IA também está em constante evolução, exigindo decisões em várias camadas da infraestrutura de dados e potencialmente aumentando o risco devido ao aumento dos pontos de acesso.

Por que os Conselhos devem se importar?

Dados limpos e corrigidos e mudanças na infraestrutura de TI são necessários para maximizar o uso da IA e de outras tecnologias emergentes. As equipes de Administração reconhecem a importância e, de acordo com a pesquisa de pulso EY CEO Outlook de outubro de 2023, 37% dos CEOs planejavam realocar capital de outros orçamentos de investimento para apoiar o desenvolvimento da IA em 2024. 34% disseram que levantariam principalmente novo capital e 26% indicaram que realocariam capital especificamente dos orçamentos de tecnologia. Esses são esforços grandes e caros, que exigem significativos gastos de capital e integração estreita com talentos e estratégias organizacionais.

As escolhas de investimento em tecnologia que não estão alinhadas com uma visão estratégica de longo prazo podem ser difíceis de aplicar e podem inibir significativamente a capacidade da organização de tirar proveito dessas tecnologias de uma forma que se alinhe com a visão da Administração. 

Como os Conselhos podem ajudar?

Os Conselhos desempenham um papel ativo na supervisão dos grandes gastos de capital necessários para o sucesso da IA e devem exaltar a importância dos dados e da infraestrutura relacionada. É provável que os planos da Administração sejam excessivamente otimistas e possam exigir a retenção de investimentos já feitos, em vez de priorizar o investimento em facilitadores críticos de IA. Como as lideranças nos disseram, reconhecer as falácias de planejamento e custos irrecuperáveis é útil ao responsabilizar a Administração por dados limpos. Tal como acontece com a preparação de dados, os Conselhos devem confirmar que a Administração avaliou cuidadosamente a implantação da infraestrutura em termos das opções, escolheu o que faz sentido para a direção futura da empresa e, em seguida, seja responsabilizada pela execução. Os Conselhos também devem solicitar atualizações regulares da Administração para entender o ritmo do trabalho de capacitação técnica e como ele apoia a estratégia de longo prazo da empresa.

O uso em larga escala da IA alterará a forma como o trabalho é feito em quase todas as organizações, desafiará os modelos de negócios existentes e mudará a forma como as empresas se envolvem com os indivíduos e entre si. A automação orientada por IA melhora a eficiência das equipes de operações e tecnologia; cria abordagens individualizadas de marketing e vendas; personaliza produtos e serviços para indivíduos; e traz formas enormes e anteriormente irreconciliáveis de dados e entradas para previsão financeira, gestão de riscos e tomada de decisões estratégicas. Ao mesmo tempo, incorporar a IA em políticas, procedimentos e controles pode melhorar as maneiras pelas quais as organizações gerenciam e mitigam riscos e avaliam a vantagem estratégica.

As empresas que utilizam a IA e outras tecnologias emergentes para alavancar sua capacidade de transformação irão mais longe. Essas empresas podem estar mais bem preparadas para mudar a forma como o trabalho é feito e criar novos modelos de negócios e operacionais. 62% dos CEOs acreditam que sua organização deve agir agora sobre a GenIA para evitar ceder terreno aos concorrentes. Uma implementação bem-sucedida pode melhorar o conhecimento do genoma corporativo – pessoas, ativos, clientes, fornecedores e histórico – e a tomada de decisões organizacionais. Isso, por sua vez, cria as condições para que a empresa transforme a forma como conecta produtos e serviços aos clientes. A partir de nossas discussões com membros de Conselhoss, as empresas líderes estão agora pressionando para alavancar a IA para permitir ainda mais a criação de valor e, em alguns casos, criar novos negócios e abordagens operacionais. 

Por que os Conselhos devem se importar?

Dado o impacto potencial da IA de incremental para transformacional, os Conselhos desempenharão um papel fundamental no incentivo ao ritmo apropriado de integração dessas novas tecnologias nos negócios – particularmente à luz da gestão de mudanças que será necessária, à medida que essa nova tecnologia rompe processos antigos e a tomada de decisões.

Especificamente, as organizações devem equilibrar usos menores de IA dentro da empresa com uma estrutura estratégica mais ampla, para que haja valor comercial real para os muitos casos de uso de IA que podem estar em andamento. Afinal, uma prova de conceito ou caso de uso específico não exige que todos os riscos e interdependências sejam contabilizados em toda a organização. Os membros de Conselhos estão em uma posição única para apoiar a Administração na determinação de uma abordagem estratégica para a IA. Devido à perspectiva de longo prazo do Conselho e, muitas vezes, à experiência mais duradoura, ele pode ajudar a Administração a fazer uma pausa para criar uma estrutura estratégica mais ampla. Tal estrutura pode alinhar os recursos da empresa às iniciativas mais frutíferas.

Os membros de Conselhos estão observando a crescente importância da gestão de mudanças organizacionais para garantir que a IA esteja integrada e alavancada, especialmente porque é tão diferente das soluções e dos treinamentos tradicionais de software. Em nossas discussões, ouvimos que aprender a trabalhar com IA é semelhante a aprender a trabalhar com um novo colega. Como um conselheiro disse: “Os Conselhos estão perguntando: ‘Como estamos usando a IA?’ em vez de perguntar: ‘Como estamos garantindo que nosso pessoal esteja pronto?’”

Como os Conselhos podem ajudar?

Os Conselhos podem orientar a Administração a adotar uma perspectiva mais ampla em torno da IA, definindo expectativas e responsabilidades de acordo. Em vez de centrar a discussão sobre se a IA pode melhorar um processo específico, eles podem direcionar a Administração para determinar como a IA pode ajudar a empresa a se diferenciar dos concorrentes como um todo. Como Dan Diasio, Global Artificial Intelligence Consulting Leader da EY, escreve: “A IA deve impulsionar grandes mudanças na transformação da receita e do modelo de negócios, ajudar uma empresa a entrar em um novo mercado ou afastar uma grande ameaça”. Os Conselhos podem ajudar a Administração a manter esses aspectos transformadores em seus planos. Eles também podem fazer perguntas sobre potenciais novos concorrentes, pois a democratização da IA permitirá cada vez mais que organizações menores se separem e desafiem as cadeias de valor de empresas maiores. Os Conselhos também podem perguntar se a Administração está incluindo o aspecto pessoal necessário da gestão de mudanças para que a IA seja incorporada aos negócios.

A IA cria novos riscos para as empresas em áreas como direitos de propriedade intelectual, parcialidade e transparência do modelo. Programas de IA responsáveis adicionam uma camada de governança e supervisão à gestão de riscos no desenvolvimento e na implantação de IA. As empresas que desenvolvem esses programas podem recorrer a vários documentos de princípios externos e estruturas de gestão de riscos, como os Princípios de IA da OCDE, a Estrutura de Gestão de Riscos de IA do National Institute of Standards and Technology (NIST) e uma estrutura ética aplicada que alinha as prioridades e barreiras de proteção de uma organização aos seus valores e propósito, criando uma orientação para a governança do programa de IA. A organização global da EY se compromete a seguir uma estrutura de nove princípios de IA responsáveis: responsabilização, proteção de dados, confiabilidade, segurança, transparência, explicabilidade, justiça, conformidade e sustentabilidade, e muitas empresas estão usando essa lista como ponto de partida para suas decisões políticas.

Embora a regulamentação governamental da IA esteja começando a aparecer no horizonte, há algum ceticismo sobre se ela se moverá com rapidez suficiente para fornecer salvaguardas adequadas. Enquanto isso, as empresas têm acesso exclusivo a talentos e capital para desenvolver modelos de IA para aprimorar as estruturas de governança e supervisão existentes.

Uma estrutura de IA robusta e responsável pode ajudar a esclarecer prioridades potencialmente concorrentes ao criar e implantar produtos em uma jornada de IA. Considere duas prioridades éticas de IA, confiabilidade e explicabilidade. O modelo é consistente ao longo do tempo e o que ele faz pode ser explicado? A otimização da confiabilidade em um modelo de IA pode exigir um algoritmo de caixa preta que não revela detalhes sobre como os dados são processados ou analisados, mas que pode inibir a explicabilidade do modelo, criando uma tensão entre os dois princípios. Um programa de IA responsável pode ajudar os funcionários a entender como equilibrar prioridades como essas e gerenciar riscos dentro do apetite de risco de IA de uma organização.

Por que os Conselhos devem se importar?

Errar na IA pode causar danos tanto às empresas quanto aos seus Conselhos e, portanto, a supervisão da política de IA deve ser um mandato fundamental do Conselho. Os investidores institucionais estão começando a estabelecer expectativas para o desenvolvimento e uso responsável da IA, com vários recentemente emitindo orientações formais. A Federal Trade Commission (FTC) e os tribunais de Delaware assumiram posições que podem levar os Conselhos a supervisionar a IA como parte de uma operação de missão crítica. É crucial que os Conselhos confirmem que as equipes de gestão incorporam IA responsável no início de uma jornada de IA. O desejo de otimizar a eficiência e a velocidade do mercado deve ser cuidadosamente equilibrado com o estabelecimento das salvaguardas necessárias para ajudar a mitigar os inúmeros riscos que a IA representa para as empresas e a sociedade. Para serem eficazes, os princípios da IA responsável devem ser traduzidos em ações que estejam de acordo com os valores corporativos e a tolerância ao risco da empresa.

Como os Conselhos podem ajudar?

Administrar com sucesso um programa de IA responsável alinhado ao propósito e ao valor corporativos pode ser difícil de alcançar na prática, mas a definição de políticas no nível do Conselho pode ajudar a garantir que ocorra uma avaliação completa. Os Conselhos podem apoiar as equipes de Administração examinando as barreiras à implementação de uma estrutura de IA responsável e baseada em propósitos.

Por fim, uma estrutura de IA responsável deve ser integrada ao programa geral de gestão de riscos da empresa. Os Conselhos podem procurar estabelecer atualizações regulares e sistemáticas da Administração sobre oportunidades e riscos de IA, confirmar que a IA está na agenda das reuniões do Conselho e agir sobre quaisquer sinais de alerta observados. Pode ser útil designar uma única pessoa da Administração com responsabilidade abrangente para gerenciar os riscos de IA.

Uma estrutura de IA responsável baseada em propósitos

Os Conselhos estão no nexo de um ambiente de negócios complexo, onde o ritmo acelerado das mudanças está prestes a ser acelerado pelas tecnologias emergentes. Eles devem melhorar sua eficácia para serem posicionados não apenas para hoje, mas além.

Embora os Conselhos tenham tido que lidar com uma infinidade de tópicos que surgiram e se integraram aos negócios e à governança nos últimos anos, o uso exponencial da IA traz desafios únicos para o Conselho.

Em nossas discussões, membros de Conselhos enfatizaram a importância de ter as conversas certas sobre tecnologia, riscos e oportunidades. Com as agendas de Conselho e Comitê cada vez mais lotadas, determinar onde as discussões sobre IA ocorrem tornou-se uma questão em aberto para muitos Conselhos. Em uma reunião recente de lideranças, quando perguntados sobre onde a IA é discutida em seus Conselhos, quase todos observaram que as questões surgem mais naturalmente para os Comitês de Auditoria como parte da supervisão de riscos. No entanto, isso pode fraturar a conversa em torno da IA e de outras tecnologias emergentes, deixando os tópicos estratégicos de criação de valor não focados em riscos para agendas ad hoc. Quanto a quem, os Conselhos continuam a procurar formas de aperfeiçoar os conjuntos de competências, acrescentando proficiência tecnológica por meio de uma perspectiva empresarial, mas reconhecem o desafio de se concentrarem demasiado num ou dois especialistas em tecnologia. Do lado da Administração, os Conselhos também estão questionando quem deve ser o proprietário designado da IA, pois reconhecem a capacitação única que ela traz para várias funções e novos modelos de negócios.

Para ajudar suas organizações a aproveitar totalmente os benefícios da IA, os Conselhos precisarão ter discussões que vão além das políticas de risco e conformidade. Dados os requisitos de tempo e as agendas lotadas, uma questão que surge é se deve haver um Comitê de Tecnologia designado, e a resposta — como é frequentemente o caso para questões de governança — é “depende”. Nossa análise mostra que, embora o número de Comitês além dos três principais esteja diminuindo ou permanecendo inalterado, a prevalência de Comitês de Tecnologia entre as empresas do S&P 500 quase dobrou, de 7% em 2018 para 13% em 2023. Esses números não incluem Subcomitês ou Comitês ad hoc, pois eles não são relatados regularmente. Notavelmente, quando um Comitê de Tecnologia era adicionado, na maioria dos casos era novo em vez de reaproveitado.

Um Comitê de Tecnologia é apenas uma opção, é claro, e abaixo há uma gama de opções onde as discussões necessárias e análises aprofundadas podem ocorrer.

• Organizar um novo Comitê para se concentrar em tecnologia, segurança cibernética e IA
• Incorporar a IA em um Comitê existente onde os riscos e oportunidades relacionados já são supervisionados
• Criar um Subcomitê para se concentrar na IA
• Criar um Comitê ad hoc centrado em um desafio específico de IA
• Criar um Conselho Consultivo de especialistas em IA para fornecer aprendizado e assistência contínuos

Como os Conselhos podem ajudar

Embora cada Conselho seja único, o desafio de onde ter a conversa não é. Muitos conselheiros com quem conversamos sentiram fortemente que todo o Conselho tem responsabilidade pela supervisão da IA, enquanto outros sentiram igualmente que um Comitê de Tecnologia (ou uma variante, como um Comitê Cibernético e de Tecnologia) fazia sentido. Um líder declarou: “Nunca fui fã de adicionar um novo Comitê, mas acho que estamos no ponto em que a maioria das grandes empresas precisará adicionar um Comitê de Tecnologia ao seu Conselho”.

Além de decidir onde ter discussões sobre IA e revisitar periodicamente, à medida que a tecnologia continua a evoluir, os Conselhos seriam inteligentes em considerar se eles têm os conjuntos de habilidades certos, não apenas em termos de experiência, mas também de mentalidade. Eles devem abraçar não apenas o pensamento crítico que questiona suposições sobre operações e eficiência, mas também buscar um pensamento focado no futuro que seja mais criativo para a criação de valor e a transformação do modelo de negócios.

Esta é uma tradução de conteúdo da EY Estados Unidos. A versão original, em inglês, está disponível em: Four ways boards can support the effective use of AI | EY - US.