.

Como os Conselhos podem abraçar e supervisionar a IA com curiosidade e cuidado

O EY Board Strategy Summit 2024 se concentrou em como os Conselhos estão governando para um futuro capacitado pela tecnologia.


Em resumo

  • A IA é um divisor de águas e Conselhos eficazes devem encontrar casos de uso que gerem receita, aumentem a eficiência e minimizem o risco.
  • A IA pode representar riscos significativos, portanto, os Conselhos e as empresas devem se educar e concordar com as estratégias apropriadas de IA para seus negócios.

Cerca de 100 conselheiros de empresas Fortune 1000 se reuniram no EY Board Strategy Summit 2024 para ouvir de lideranças empresariais e acadêmicos ilustres sobre como os Conselhos estão governando para um futuro que inclui inteligência artificial (IA) e outras tecnologias emergentes. Os tópicos exploraram a supervisão eficaz da IA e como os Conselhos podem apoiar a inovação e a estratégia para o futuro.

Os participantes foram recebidos pelo Americas Strategic Relationships Leader da EY, o avatar gerado por IA de Ted Acosta. Aqueles na sala que conheciam Acosta pessoalmente perceberam uma cadência ligeiramente robótica de seu gêmeo de IA, mas essa exibição de tecnologia que está transformando rapidamente todos os setores da economia foi mais do que um chamariz. Quando o verdadeiro Ted Acosta entrou no palco, brincou que sua versão de IA, fluente em vários idiomas, era mais eloquente do que ele. Isso pode ser explorado como um deep fake. Para demonstrar o potencial da IA de causar danos, o avatar de Acosta passou a pedir dinheiro ao público em japonês. Isso, é claro, foi feito em tom de brincadeira para ajudar a ilustrar os possíveis usos do avatar.

Este exemplo da dupla promessa da IA – seus benefícios de longo alcance e possíveis perigos – deu o tom para as discussões que se seguiram sobre a supervisão do Conselho.

Em um mundo cada vez mais saturado de IA, a questão sobre como os Conselhos podem tirar o máximo proveito dela enquanto a usam de forma responsável está centrada na governança, disse Janet Truncale, CEO e Global Chair da EY. A tecnologia está se expandindo além do domínio do CIO e do CTO. Agora, a IA está em toda parte e, para CEOs, ela tem o potencial de impactar tudo, a qualquer momento. A IA deve fazer parte de uma conversa mais ampla que inclua não apenas processos, mas também pessoas, preocupações geopolíticas e crescimento a longo prazo, que podem remodelar a estrutura e a composição dos Conselhos.

Preparar as lideranças para um futuro acelerado por IA é abraçar a tecnologia emergente com propósito – como conselheiro, é importante tocá-la, senti-la e experimentar suas aplicações em diferentes domínios. Isso é relativamente fácil de fazer com ferramentas de colaboração e trabalho baseadas em IA. Sandi Peterson, conselheira independente líder da Microsoft, compartilhou as lições que aprendeu ao trabalhar com a equipe de liderança e o Conselho. Nestes primeiros dias de adoção e desenvolvimento da IA, ela diz que é importante ter conversas realistas sobre o estado da tecnologia. Isso inclui considerar quanto tempo e quão desafiador pode ser perceber plenamente o valor do uso dessas tecnologias.

Para Peterson, a diferença entre a boa IA e a má IA está em sua aplicação prática. Como outras grandes inovações que a precederam – internet, dispositivos móveis, computação em nuvem – a IA é um divisor de águas. Mas os Conselhos devem encontrar usos reais para a tecnologia que sejam específicos da empresa e do setor. Geralmente, pode melhorar o desempenho e a produtividade em muitas funções gerais e administrativas, mas outros casos de uso devem ser específicos da empresa. Líderes de Conselho bem-sucedidos trabalham com a Administração para sondar e criar convicção em torno de casos de uso específicos, criar um caso de negócios e, em seguida, começar a trabalhar.

O ator indicado ao Oscar Edward Norton, que estrelou alguns dos filmes mais populares de Hollywood, levou essas lições a sério quando cofundou a Zeck – uma plataforma em nuvem para simplificar as conferências do Conselho. Em uma entrevista gravada com Kris Pederson, do EY Center for Board Matters, ele lembrou como estava frustrado com o trabalho penoso e o desperdício de tempo e esforço que atormentavam as reuniões do Conselho. Norton sabia: além de seu divertido trabalho como ator famoso, ele é um empreendedor em série que já atuou em dezenas de Conselhos. Ele observou que a inovação pode ajudar os Conselhos a trabalhar de forma mais eficiente, agilizar a preparação das reuniões e melhorar a apresentação de materiais para ajudar os conselheiros a se concentrarem na agenda prospectiva.

Incorporar sistemas de dados inteligentes em uma empresa – e na sala de reuniões – poderia facilitar esse tipo de solução de problemas. Mas, embora a IA seja a última palavra da moda, aqueles que só ouviram falar dela recentemente não perceberam como essa tecnologia evoluiu. Durante o “Embracing a tech-enabled boardroom panel”, Leroy Williams, CEO da CyberTekIQ, e Merline Saintil, conselheira independente líder da Rocket Lab, lembraram ao público que a IA é de fato um conceito de 50 anos que finalmente foi combinado com nossas capacidades computacionais para fazê-la funcionar. Isso desencadeia uma ampla variedade de riscos e oportunidades que os conselheiros – e suas empresas – precisarão equilibrar.

O que há de novo nisso é seu potencial disruptivo. Essa é a coisa legal sobre a IA, disse Rob Beard, Chief Legal Officer, General Counsel e Head of Global Policy da Mastercard – ela pode reduzir muitos desafios diferentes, mas os Conselhos também precisam estar atentos para não reduzir os requisitos legais básicos. Isso significa estabelecer as bases legais para a IA e o conteúdo gerado pela IA: implementar o dever de cuidado adequado, atender aos padrões mínimos de prontidão legal e preparar os materiais certos para os stakeholders certos no momento certo, mantendo o sigilo cliente-advogado.

O que Beard chama de “coisa legal” da IA, embora necessário, é apenas parte do cenário ético e de governança maior e mais complicado no qual os sistemas digitais podem avançar para as funções de tomada de decisão. O painel “Oversight of ethical AI” levou as perguntas para o próximo nível: quem são os guardiões da IA? Quais são os custos do uso da IA para influenciar o comportamento do consumidor? Que papel os governos devem desempenhar? Jeff Saviano, Emerging Technology Strategy and Governance Leader da EY, iniciou a discussão observando o precedente histórico de os formuladores de políticas dos EUA não terem pesado muito sobre a tecnologia emergente.

Se a tecnologia está sempre à frente das regulamentações, que esperança os governos têm de criar diretrizes abrangentes para algo tão rápido quanto a IA? É por isso que, segundo Lex Suvanto, CEO da Edelman Smithfield, é fundamental que os Conselhos entendam as considerações éticas da IA especificamente para sua empresa e, em seguida, desenvolvam diretrizes de supervisão adequadas. Os casos de IA que deram errado – muitos já documentados, até mesmo litigados – representam riscos reais para as empresas e, potencialmente, para os próprios conselheiros. No entanto, esses riscos podem ser reduzidos se os Conselhos e as empresas se educarem sobre as realidades da IA, subirem o nível da conformidade, concordarem com as principais práticas e desenvolverem estratégias de IA adaptadas aos seus negócios.

Um bom sinal de que as pessoas começam a confiar nas novas tecnologias é quando param de falar sobre elas, observou um dos palestrantes da sessão. No entanto, chegar lá pode levar tempo, porque nossa curiosidade sobre IA é diferente de outros sistemas complexos – principalmente porque é novo, mas também porque está na trajetória em direção à tomada de decisões autônoma.

É precisamente por isso que os Conselhos devem abandonar o planejamento antiquado e adotar o “mapeamento do futuro”, diz Minsoo Pak, Americas Innovation Realized Leader da EY. Pak, juntamente com Mike Kanazawa, Global Innovation Realized Leader da EY, testou essa abordagem realizando um exercício interativo ao vivo. Trabalhando juntos em grupos de discussão, conselheiros e líderes empresariais mapearam resultados diretos e indiretos de cenários futuros envolvendo energia renovável, inovação digital, mobilidade elétrica, automação e outras tendências do setor. O objetivo do exercício, explicou Pak, não era resolver problemas imediatos, mas identificar implicações de segundo, terceiro e até quarto nível de tecnologias disruptivas – incluindo aquelas que ainda não existem – e alimentá-las para apresentar a tomada de decisões. Este exercício é uma ótima abordagem de planejamento de cenários, ajudando os conselheiros a criar novas maneiras de identificar oportunidades e também riscos.

Os líderes de Conselho de longa data, Mark Weinberger e Glenn Hubbard, que passaram com sucesso por sua própria parcela de interrupções causadas por altos e baixos, crises energéticas, pandemia de COVID-19 e dilemas geopolíticos, falaram sobre suas experiências. Nesses casos – e agora com o cenário da IA em rápida transformação – a disrupção, quando gerenciada adequadamente, pode se tornar um multiplicador para o comércio e a inovação de produtos. Conselhos que permanecem focados na boa governança ajudarão suas empresas a ter sucesso e trarão um senso renovado de dinamismo aos mercados globais.

Há um consenso crescente entre os líderes do Conselho: estamos à beira de um futuro alimentado por IA. A tecnologia ainda está em sua forma mais incipiente, trazendo consigo um conjunto complexo de desafios. Mas está aqui, não vai desaparecer e, provavelmente, seus concorrentes já estão usando isso para expandir seus negócios. Para os Conselhos, agir sobre a IA significa abraçá-la, com curiosidade e cuidado, mudar as abordagens de governança para aproveitá-la e sempre fazer perguntas melhores.

    1. A IA é uma prioridade da sala de reuniões, e os conselheiros devem avaliar sua prontidão para a transformação. Os Conselhos devem revisar sua composição, conjuntos de habilidades e estrutura e, em seguida, alinhar-se às necessidades de sua estratégia de longo prazo.

    2. A IA é um divisor de águas, mas os Conselhos devem encontrar casos de uso reais que gerem receita, aumentem a eficiência e minimizem o risco. Eles devem trabalhar com a Administração para imaginar a próxima grande novidade, construir um caso de negócios sólido e, em seguida, começar a trabalhar.

    3. A IA não é um conceito totalmente novo, mas agora que temos as capacidades de computação para otimizar algoritmos de IA, os Conselhos devem orientar a Administração na criação de uma estrutura estratégica mais ampla para capacitação de tecnologia, precisão de dados, testes de segurança, implantações e supervisão de gestão de riscos.

    4. Considere como a inovação pode ajudar seu Conselho a trabalhar com mais eficiência. A nova empresa de Edward Norton usa a tecnologia para agilizar a preparação da reunião do Conselho e melhorar a apresentação de materiais para ajudar os conselheiros a operar com mais eficiência e se concentrar na agenda prospectiva. A IA também transformará em breve a preparação da reunião do Conselho.

    5. À medida que a tecnologia continua a evoluir, a cooperação internacional e estruturas consistentes são necessárias para enfrentar os desafios impostos pela IA e pelas redes sociais.

    6. Os Conselhos devem considerar os aspectos legais e morais da IA, incluindo o dever de cuidado e a importância da divulgação ética, protegendo amplos conjuntos de stakeholders. 

    7. Os Conselhos podem imaginar tendências futuras mapeando resultados prospectivos de diferentes cenários usando exercícios de volta ao futuro que visam não resolver problemas imediatos, mas identificar implicações de segundo, terceiro e até quarto nível das novas tecnologias.

    8. O melhor sinal de que as pessoas começam a confiar nas novas tecnologias é quando param de falar sobre elas. Os Conselhos devem considerar seu papel na tutela, na influência do consumidor e na defasagem das regulamentações por trás da tecnologia, com foco na ética elementar e na confiança da sociedade, em vez de esperar pelos governos. 

    9. Os Conselhos passaram por uma variedade de interrupções e, agora, com o mundo da IA em rápida transformação, os principais Conselhos devem permanecer focados na boa governança para ajudar suas empresas a terem sucesso. 

    10. A tecnologia emergente continuará a evoluir, e as empresas e Conselhos que a adotarem com curiosidade e cuidado colherão os frutos. Aquelas que não o fizerem ficarão para trás.

Esta é a tradução de um conteúdo da EY US. A versão original, em inglês, está disponível em: How boards can oversee AI with curiosity and care.

Resumo

O EY Board Strategy Summit 2024 contou com vários painéis de discussão e sessões interativas com participação de lideranças empresariais e acadêmicos ilustres. Os participantes aprenderam como os principais Conselhos estão governando o futuro habilitado para tecnologia e como eles podem apoiar a inovação para permitir o crescimento. As conversas também exploraram o uso ético da IA e como os Conselhos podem usar técnicas de “pensamento de volta ao futuro” para supervisionar efetivamente a estratégia e a inovação.

Sobre este artigo