Executivo com projeção de dados financeiros

Quatro maneiras pelas quais os Conselhos podem apoiar o uso eficaz da IA

Descubra como a supervisão da Inteligência Artificial (IA) pelo Conselho pode apoiar as empresas, à medida que adotam a IA para criar eficiências operacionais e obter vantagem estratégica.


Em Resumo

  • Os principais Conselhos reconhecem a importância de estabelecer as bases para aproveitar ao máximo o que a IA tem a oferecer.
  • À medida que as empresas adotam rapidamente a IA para melhorar a eficiência, os Conselhos devem confirmar que existem salvaguardas para mitigar os riscos para as empresas e para a sociedade.
  • Os Conselhos podem precisar evoluir sua estrutura para supervisionar de forma mais eficaz o uso estratégico e responsável da IA.

uase todos os CEOs (95%) disseram em uma pesquisa recente da EY que planejam manter ou acelerar iniciativas de transformação em 2024, incluindo inteligência artificial (IA) e outras tecnologias. Enquanto isso, os investidores institucionais veem a IA responsável como uma prioridade de engajamento emergente, e não é surpresa que membros de Conselhos classifiquem a inovação e a evolução das tecnologias como uma prioridade máxima neste ano.

Para entender melhor como os Conselhos estão lidando com os desafios e as oportunidades da IA, conversamos com lideranças de mais de 50 empresas. Durante essas discussões formais e informais, perguntamos como estavam navegando no ritmo quase frenético dos desenvolvimentos em IA e ajudando suas empresas a usar estrategicamente a IA e entender melhor os riscos relacionados. O que aprendemos é que muitos Conselhos já estão tomando atitudes importantes. A seguir, destacamos quatro maneiras pelas quais os Conselhos podem fornecer supervisão e governança eficazes, à medida que as empresas adotam a IA para criar eficiências operacionais e apoiar o crescimento para obter vantagem estratégica.

Reflexo de placa de circuito no óculos de proteção do engenheiro
1

Quanto melhor a pergunta

Construir uma base sólida para o uso de dados

Despesas de capital maiores do que as previstas serão necessárias para dados limpos e nova infraestrutura.

Garbage in, garbage out” são palavras de ordem daqueles que usam dados para apoiar modelos de negócios e operacionais, e para a tomada de decisões. A expressão, que tem como significado básico no português “a qualidade da saída (output) é determinada pela qualidade da entrada (input)”, ressona especialmente no contexto da supervisão da IA e de outras tecnologias emergentes. A IA generativa (GenIA), por exemplo, precisa de dados limpos e úteis – variando de texto e código a imagens e áudio – para construir modelos robustos que levem a resultados atrativos e produtivos. Preparar os dados corretamente pode exigir recursos substanciais. Além disso, a construção da infraestrutura tecnológica, incluindo sistemas de armazenamento, acesso e organização, é fundamental para o uso da GenIA e de outras tecnologias novas ou emergentes em toda a empresa.

As organizações gastam milhões para resolver problemas de qualidade de dados – e nem sempre com sucesso. No futuro, esses esforços serão fundamentais para o uso eficiente de investimentos em tecnologia, incluindo a utilidade da IA.

Grande parte desse trabalho é intensivo e manual, e não é profissionalmente gratificante. Curiosamente, a própria GenIA pode ser capaz de reduzir parte do sofrimento que esse trabalho tradicionalmente exigia, e pode ser que os dados não precisem ser perfeitos. Os dados de terceiros podem ser uma opção melhor para alguns, mas mesmo que outras formas de acessá-los, como o pool de dados, estejam surgindo, isso pode ser proibitivo em termos de custo para muitas empresas. Além disso, sem a infraestrutura certa, será difícil incorporar novas tecnologias e processos nos fluxos de trabalho dos funcionários e alcançar os objetivos estratégicos. Para as empresas, deixar de fazer isso bem criará riscos reais, que vão desde a reputação até a segurança (incluindo violações cibernéticas). O cenário de fornecedores para IA também está em constante evolução, exigindo decisões em várias camadas da infraestrutura de dados e potencialmente aumentando o risco devido ao aumento dos pontos de acesso.

Por que os Conselhos devem se importar?

Dados limpos e corrigidos e mudanças na infraestrutura de TI são necessários para maximizar o uso da IA e de outras tecnologias emergentes. As equipes de Administração reconhecem a importância e, de acordo com a pesquisa de pulso EY CEO Outlook de outubro de 2023, 37% dos CEOs planejavam realocar capital de outros orçamentos de investimento para apoiar o desenvolvimento da IA em 2024. 34% disseram que levantariam principalmente novo capital e 26% indicaram que realocariam capital especificamente dos orçamentos de tecnologia. Esses são esforços grandes e caros, que exigem significativos gastos de capital e integração estreita com talentos e estratégias organizacionais.

As escolhas de investimento em tecnologia que não estão alinhadas com uma visão estratégica de longo prazo podem ser difíceis de aplicar e podem inibir significativamente a capacidade da organização de tirar proveito dessas tecnologias de uma forma que se alinhe com a visão da Administração. 

Como os Conselhos podem ajudar?

Os Conselhos desempenham um papel ativo na supervisão dos grandes gastos de capital necessários para o sucesso da IA e devem exaltar a importância dos dados e da infraestrutura relacionada. É provável que os planos da Administração sejam excessivamente otimistas e possam exigir a retenção de investimentos já feitos, em vez de priorizar o investimento em facilitadores críticos de IA. Como as lideranças nos disseram, reconhecer as falácias de planejamento e custos irrecuperáveis é útil ao responsabilizar a Administração por dados limpos. Tal como acontece com a preparação de dados, os Conselhos devem confirmar que a Administração avaliou cuidadosamente a implantação da infraestrutura em termos das opções, escolheu o que faz sentido para a direção futura da empresa e, em seguida, seja responsabilizada pela execução. Os Conselhos também devem solicitar atualizações regulares da Administração para entender o ritmo do trabalho de capacitação técnica e como ele apoia a estratégia de longo prazo da empresa.

    • O que a empresa precisa fazer para confirmar que seus dados estejam prontos para IA?
    • Como a Administração determinou as necessidades de correção de dados e infraestrutura?
    • Quais objetivos estratégicos dependem dessas necessidades de correção de dados e infraestrutura?
    • Como o Conselho pode acompanhar o progresso nos esforços para construir o uso fundamental de dados?
Cientista feminina com tablet e projeção de dados
2

Melhor a resposta

Apoiar a integração da IA na organização

A IA transformará a forma como o trabalho é feito em todas as áreas da empresa.

O uso em larga escala da IA alterará a forma como o trabalho é feito em quase todas as organizações, desafiará os modelos de negócios existentes e mudará a forma como as empresas se envolvem com os indivíduos e entre si. A automação orientada por IA melhora a eficiência das equipes de operações e tecnologia; cria abordagens individualizadas de marketing e vendas; personaliza produtos e serviços para indivíduos; e traz formas enormes e anteriormente irreconciliáveis de dados e entradas para previsão financeira, gestão de riscos e tomada de decisões estratégicas. Ao mesmo tempo, incorporar a IA em políticas, procedimentos e controles pode melhorar as maneiras pelas quais as organizações gerenciam e mitigam riscos e avaliam a vantagem estratégica.

As empresas que utilizam a IA e outras tecnologias emergentes para alavancar sua capacidade de transformação irão mais longe. Essas empresas podem estar mais bem preparadas para mudar a forma como o trabalho é feito e criar novos modelos de negócios e operacionais. 62% dos CEOs acreditam que sua organização deve agir agora sobre a GenIA para evitar ceder terreno aos concorrentes. Uma implementação bem-sucedida pode melhorar o conhecimento do genoma corporativo – pessoas, ativos, clientes, fornecedores e histórico – e a tomada de decisões organizacionais. Isso, por sua vez, cria as condições para que a empresa transforme a forma como conecta produtos e serviços aos clientes. A partir de nossas discussões com membros de Conselhoss, as empresas líderes estão agora pressionando para alavancar a IA para permitir ainda mais a criação de valor e, em alguns casos, criar novos negócios e abordagens operacionais. 

Por que os Conselhos devem se importar?

Dado o impacto potencial da IA de incremental para transformacional, os Conselhos desempenharão um papel fundamental no incentivo ao ritmo apropriado de integração dessas novas tecnologias nos negócios – particularmente à luz da gestão de mudanças que será necessária, à medida que essa nova tecnologia rompe processos antigos e a tomada de decisões.

Especificamente, as organizações devem equilibrar usos menores de IA dentro da empresa com uma estrutura estratégica mais ampla, para que haja valor comercial real para os muitos casos de uso de IA que podem estar em andamento. Afinal, uma prova de conceito ou caso de uso específico não exige que todos os riscos e interdependências sejam contabilizados em toda a organização. Os membros de Conselhos estão em uma posição única para apoiar a Administração na determinação de uma abordagem estratégica para a IA. Devido à perspectiva de longo prazo do Conselho e, muitas vezes, à experiência mais duradoura, ele pode ajudar a Administração a fazer uma pausa para criar uma estrutura estratégica mais ampla. Tal estrutura pode alinhar os recursos da empresa às iniciativas mais frutíferas.

Os membros de Conselhos estão observando a crescente importância da gestão de mudanças organizacionais para garantir que a IA esteja integrada e alavancada, especialmente porque é tão diferente das soluções e dos treinamentos tradicionais de software. Em nossas discussões, ouvimos que aprender a trabalhar com IA é semelhante a aprender a trabalhar com um novo colega. Como um conselheiro disse: “Os Conselhos estão perguntando: ‘Como estamos usando a IA?’ em vez de perguntar: ‘Como estamos garantindo que nosso pessoal esteja pronto?’”

Como os Conselhos podem ajudar?

Os Conselhos podem orientar a Administração a adotar uma perspectiva mais ampla em torno da IA, definindo expectativas e responsabilidades de acordo. Em vez de centrar a discussão sobre se a IA pode melhorar um processo específico, eles podem direcionar a Administração para determinar como a IA pode ajudar a empresa a se diferenciar dos concorrentes como um todo. Como Dan Diasio, Global Artificial Intelligence Consulting Leader da EY, escreve: “A IA deve impulsionar grandes mudanças na transformação da receita e do modelo de negócios, ajudar uma empresa a entrar em um novo mercado ou afastar uma grande ameaça”. Os Conselhos podem ajudar a Administração a manter esses aspectos transformadores em seus planos. Eles também podem fazer perguntas sobre potenciais novos concorrentes, pois a democratização da IA permitirá cada vez mais que organizações menores se separem e desafiem as cadeias de valor de empresas maiores. Os Conselhos também podem perguntar se a Administração está incluindo o aspecto pessoal necessário da gestão de mudanças para que a IA seja incorporada aos negócios.

    • Qual é a estratégia de IA da empresa e como os casos de uso de IA estão conectados?
    • Quais métricas devem ser usadas para medir o valor criado pela IA?
    • Como a IA está sendo implementada para transformar a experiência do cliente e do funcionário?
    • Como a mudança para o uso de ferramentas de IA está sendo gerenciada? As pessoas da empresa estão tão prontas para a IA quanto seus dados?
    • Quais novos modelos de negócios a IA capacita a organização a adotar? 
Homen com luzes dos servidores a noite
3

Melhor a resposta

Incorporar IA responsável na empresa

Construir uma estrutura de IA responsável no início da transformação da IA é crucial para mitigar os riscos.

A IA cria novos riscos para as empresas em áreas como direitos de propriedade intelectual, parcialidade e transparência do modelo. Programas de IA responsáveis adicionam uma camada de governança e supervisão à gestão de riscos no desenvolvimento e na implantação de IA. As empresas que desenvolvem esses programas podem recorrer a vários documentos de princípios externos e estruturas de gestão de riscos, como os Princípios de IA da OCDE, a Estrutura de Gestão de Riscos de IA do National Institute of Standards and Technology (NIST) e uma estrutura ética aplicada que alinha as prioridades e barreiras de proteção de uma organização aos seus valores e propósito, criando uma orientação para a governança do programa de IA. A organização global da EY se compromete a seguir uma estrutura de nove princípios de IA responsáveis: responsabilização, proteção de dados, confiabilidade, segurança, transparência, explicabilidade, justiça, conformidade e sustentabilidade, e muitas empresas estão usando essa lista como ponto de partida para suas decisões políticas.

Embora a regulamentação governamental da IA esteja começando a aparecer no horizonte, há algum ceticismo sobre se ela se moverá com rapidez suficiente para fornecer salvaguardas adequadas. Enquanto isso, as empresas têm acesso exclusivo a talentos e capital para desenvolver modelos de IA para aprimorar as estruturas de governança e supervisão existentes.

Uma estrutura de IA robusta e responsável pode ajudar a esclarecer prioridades potencialmente concorrentes ao criar e implantar produtos em uma jornada de IA. Considere duas prioridades éticas de IA, confiabilidade e explicabilidade. O modelo é consistente ao longo do tempo e o que ele faz pode ser explicado? A otimização da confiabilidade em um modelo de IA pode exigir um algoritmo de caixa preta que não revela detalhes sobre como os dados são processados ou analisados, mas que pode inibir a explicabilidade do modelo, criando uma tensão entre os dois princípios. Um programa de IA responsável pode ajudar os funcionários a entender como equilibrar prioridades como essas e gerenciar riscos dentro do apetite de risco de IA de uma organização.

Por que os Conselhos devem se importar?

Errar na IA pode causar danos tanto às empresas quanto aos seus Conselhos e, portanto, a supervisão da política de IA deve ser um mandato fundamental do Conselho. Os investidores institucionais estão começando a estabelecer expectativas para o desenvolvimento e uso responsável da IA, com vários recentemente emitindo orientações formais. A Federal Trade Commission (FTC) e os tribunais de Delaware assumiram posições que podem levar os Conselhos a supervisionar a IA como parte de uma operação de missão crítica. É crucial que os Conselhos confirmem que as equipes de gestão incorporam IA responsável no início de uma jornada de IA. O desejo de otimizar a eficiência e a velocidade do mercado deve ser cuidadosamente equilibrado com o estabelecimento das salvaguardas necessárias para ajudar a mitigar os inúmeros riscos que a IA representa para as empresas e a sociedade. Para serem eficazes, os princípios da IA responsável devem ser traduzidos em ações que estejam de acordo com os valores corporativos e a tolerância ao risco da empresa.

Como os Conselhos podem ajudar?

Administrar com sucesso um programa de IA responsável alinhado ao propósito e ao valor corporativos pode ser difícil de alcançar na prática, mas a definição de políticas no nível do Conselho pode ajudar a garantir que ocorra uma avaliação completa. Os Conselhos podem apoiar as equipes de Administração examinando as barreiras à implementação de uma estrutura de IA responsável e baseada em propósitos.

Por fim, uma estrutura de IA responsável deve ser integrada ao programa geral de gestão de riscos da empresa. Os Conselhos podem procurar estabelecer atualizações regulares e sistemáticas da Administração sobre oportunidades e riscos de IA, confirmar que a IA está na agenda das reuniões do Conselho e agir sobre quaisquer sinais de alerta observados. Pode ser útil designar uma única pessoa da Administração com responsabilidade abrangente para gerenciar os riscos de IA.

Uma estrutura de IA responsável baseada em propósitos

Barreira

Ações que o Conselho pode tomar 

Suporte insuficiente da liderança para estabelecer uma estrutura de IA responsável

  • Envolver-se com a Administração sobre os benefícios de criar uma estrutura de IA responsável e pedir para revisá-la.
  • Comunicar claramente um apetite de risco de IA.
  • Considerar um mecanismo de supervisão adicional, como um Conselho de Ética ou Consultivo composto por partes interessadas internas e externas.

Integração inadequada da supervisão de IA nos esforços de transformação existentes

  • Fazer com que a Administração articule seu plano para disseminar a estrutura de IA responsável e a equipe de treinamento.
  • Pedir à Administração para relatar como a estrutura é aplicada em projetos de alta prioridade. 

Incerteza sobre quais métricas devem ser usadas para medir a IA responsável

  • Pedir à Administração métricas ou indicadores-chave de desempenho (KPIs) para monitorar se a estrutura é aplicada em toda a organização.
  • Comunicar à Administração novos requisitos de relatórios que mostrem a eficácia da estrutura de IA responsável.
    • Qual é a estrutura de IA responsável da empresa? Como foi desenvolvida ou escolhida? Quais são os princípios críticos da governança de IA que ela prioriza?
    • Como a Administração sabe que a estrutura é aplicada pelos funcionários em toda a empresa? O que a Administração faz se não for?
    • Como a estrutura de IA responsável é integrada ao programa de gestão de riscos da empresa?
Advogada olhando e-mail no tablet
4

Melhor a resposta

Melhorar a eficácia da supervisão do Conselho

A evolução da estrutura do Conselho é fundamental para supervisionar a IA.

Os Conselhos estão no nexo de um ambiente de negócios complexo, onde o ritmo acelerado das mudanças está prestes a ser acelerado pelas tecnologias emergentes. Eles devem melhorar sua eficácia para serem posicionados não apenas para hoje, mas além.

Embora os Conselhos tenham tido que lidar com uma infinidade de tópicos que surgiram e se integraram aos negócios e à governança nos últimos anos, o uso exponencial da IA traz desafios únicos para o Conselho.

Em nossas discussões, membros de Conselhos enfatizaram a importância de ter as conversas certas sobre tecnologia, riscos e oportunidades. Com as agendas de Conselho e Comitê cada vez mais lotadas, determinar onde as discussões sobre IA ocorrem tornou-se uma questão em aberto para muitos Conselhos. Em uma reunião recente de lideranças, quando perguntados sobre onde a IA é discutida em seus Conselhos, quase todos observaram que as questões surgem mais naturalmente para os Comitês de Auditoria como parte da supervisão de riscos. No entanto, isso pode fraturar a conversa em torno da IA e de outras tecnologias emergentes, deixando os tópicos estratégicos de criação de valor não focados em riscos para agendas ad hoc. Quanto a quem, os Conselhos continuam a procurar formas de aperfeiçoar os conjuntos de competências, acrescentando proficiência tecnológica por meio de uma perspectiva empresarial, mas reconhecem o desafio de se concentrarem demasiado num ou dois especialistas em tecnologia. Do lado da Administração, os Conselhos também estão questionando quem deve ser o proprietário designado da IA, pois reconhecem a capacitação única que ela traz para várias funções e novos modelos de negócios.

Para ajudar suas organizações a aproveitar totalmente os benefícios da IA, os Conselhos precisarão ter discussões que vão além das políticas de risco e conformidade. Dados os requisitos de tempo e as agendas lotadas, uma questão que surge é se deve haver um Comitê de Tecnologia designado, e a resposta — como é frequentemente o caso para questões de governança — é “depende”. Nossa análise mostra que, embora o número de Comitês além dos três principais esteja diminuindo ou permanecendo inalterado, a prevalência de Comitês de Tecnologia entre as empresas do S&P 500 quase dobrou, de 7% em 2018 para 13% em 2023. Esses números não incluem Subcomitês ou Comitês ad hoc, pois eles não são relatados regularmente. Notavelmente, quando um Comitê de Tecnologia era adicionado, na maioria dos casos era novo em vez de reaproveitado.

Um Comitê de Tecnologia é apenas uma opção, é claro, e abaixo há uma gama de opções onde as discussões necessárias e análises aprofundadas podem ocorrer.

  • Organizar um novo Comitê para se concentrar em tecnologia, segurança cibernética e IA
  • Incorporar a IA em um Comitê existente onde os riscos e oportunidades relacionados já são supervisionados
  • Criar um Subcomitê para se concentrar na IA
  • Criar um Comitê ad hoc centrado em um desafio específico de IA
  • Criar um Conselho Consultivo de especialistas em IA para fornecer aprendizado e assistência contínuos
  • Cada Conselho deve levar em consideração quantos Comitês eles podem efetivamente criar, dado seu tamanho, o trabalho atual do Conselho e como o Conselho — e seus Comitês — realizam o trabalho. Algumas questões-chave que os Conselhos devem considerar são:

    • Dado o tamanho do Conselho, qual é o número ideal de Comitês para trabalhar de forma eficaz?
    • Onde a IA e tecnologias emergentes se encaixam no contexto da estratégia da empresa e da gestão dos riscos corporativos?
    • A supervisão do Conselho da IA e de tecnologias emergentes precisa de uma situação temporária ou mais permanente?
    • Um Comitê existente tem experiência para expandir sua supervisão?
    • Qual Comitê tem a extensão e os recursos para lidar com responsabilidades diferentes ou expandidas?
    • As novas responsabilidades do Comitê se sobrepõem ao escopo de outros Comitês?
    • O estatuto esclarece o escopo de novas responsabilidades adicionais do Comitê?

    Adaptado de How committees are evolving to meet changing oversight needs, pesquisa do EY Center for Board Matters.

Como os Conselhos podem ajudar

Embora cada Conselho seja único, o desafio de onde ter a conversa não é. Muitos conselheiros com quem conversamos sentiram fortemente que todo o Conselho tem responsabilidade pela supervisão da IA, enquanto outros sentiram igualmente que um Comitê de Tecnologia (ou uma variante, como um Comitê Cibernético e de Tecnologia) fazia sentido. Um líder declarou: “Nunca fui fã de adicionar um novo Comitê, mas acho que estamos no ponto em que a maioria das grandes empresas precisará adicionar um Comitê de Tecnologia ao seu Conselho”.

Além de decidir onde ter discussões sobre IA e revisitar periodicamente, à medida que a tecnologia continua a evoluir, os Conselhos seriam inteligentes em considerar se eles têm os conjuntos de habilidades certos, não apenas em termos de experiência, mas também de mentalidade. Eles devem abraçar não apenas o pensamento crítico que questiona suposições sobre operações e eficiência, mas também buscar um pensamento focado no futuro que seja mais criativo para a criação de valor e a transformação do modelo de negócios.

    • Como o Conselho determina se está tendo as discussões certas e dedicando o tempo necessário quando se trata de IA?
    • O Conselho deve ter um Comitê dedicado (permanente/sub/ad hoc) para IA? Por quê? Por que não?
    • Como o Conselho pode se manter informado sobre IA e outras tecnologias emergentes?
    • O Conselho tem as habilidades certas para examinar as tecnologias necessárias daqui a dois ou três anos?

Esta é uma tradução de conteúdo da EY Estados Unidos. A versão original, em inglês, está disponível em: Four ways boards can support the effective use of AI | EY - US.

Resumo

Os principais Conselhos estão avançando suas conversas sobre IA e outras tecnologias emergentes além do aprendizado sobre os conceitos e casos de uso intrigantes, para se concentrar no valor de longo prazo que criarão por meio da mudança e transformação dos negócios. Para extrair valor desses esforços, os Conselhos podem ajudar as equipes de gestão a implementarem os dados e a infraestrutura; criar uma estrutura para supervisionar o negócio à medida que integra a IA e outras tecnologias emergentes; incorporar uma estrutura de IA responsável; e determinar como o Conselho supervisionará os tópicos de IA. Ao apoiar o alinhamento de todos os aspectos da organização – dados, infraestrutura, pessoas, processos – e mantê-los focados no futuro, os Conselhos podem ser otimistas sobre como a IA e tecnologias emergentes impulsionarão mudanças fundamentais de alto valor bem-sucedidas.

Sobre este artigo