Como a IA responsável pode soltar as amarras de sua vantagem competitiva

Para obter uma vantagem competitiva, os líderes devem incorporar a IA responsável em toda a empresa e alinhar-se com o que realmente importa para os consumidores. 

Em resumo

• Muitos líderes integrantes da diretoria superestimam o quanto estão alinhados com as preocupações dos consumidores com relação à IA.
• A comunicação clara das práticas responsáveis de IA pode impulsionar a adoção, ajudando os consumidores a se sentirem mais bem informados e tranquilos.
• Os CEOs estão liderando a IA responsável, mas é necessário um alinhamento mais amplo por parte da diretoria.

A inteligência artificial (IA) está avançando a uma velocidade vertiginosa. As empresas estão correndo para identificar casos de uso, bem como integrar e dimensionar a IA em seus produtos, serviços e operações. Contudo, a implementação bem-sucedida depende de mais do que apenas velocidade. A IA responsável é um facilitador essencial da adoção e da criação de valor a longo prazo.

A maioria das empresas já conta com princípios de IA responsável em vigor, mas até que ponto elas estão colocando-os em prática? Até que ponto elas entendem as preocupações dos consumidores? E qual é o grau de confiança que têm de que estão bem preparadas para os novos riscos que surgem da próxima onda de modelos e tecnologias de IA autônoma?

Para ajudar a responder a essas perguntas, a EY lançou uma pesquisa, a Responsible AI Pulse - a primeira de uma série - para fornecer um instantâneo regular das visões reais dos líderes empresariais sobre a adoção responsável da IA.

A primeira onda dessa pesquisa revela uma lacuna significativa entre as percepções dos executivos e o sentimento dos consumidores. As descobertas também revelam que muitos líderes da diretoria executiva perderam a confiança na força de suas práticas responsáveis de IA e no alinhamento com as preocupações dos consumidores. Essas lacunas trazem consequências reais para a adoção e a confiança do usuário, que provavelmente só aumentarão à medida que a IA como elemento agente entrar cada vez mais no mercado. 

Os CEOs se destacam como uma exceção - demonstrando maior preocupação com a IA responsável, um ponto de vista que está mais alinhado com o sentimento do consumidor. Outros líderes da diretoria registram metade da probabilidade de expressar preocupações semelhantes, possivelmente devido a níveis mais baixos de conscientização ou menor percepção de responsabilidade nesse processo. Ao se sintonizar com a voz do cliente, incorporar a IA responsável em todo o ciclo de vida da inovação e tornar esses esforços centrais para a marca e as mensagens, as organizações podem começar a fechar a lacuna de confiança e proporcionar aos consumidores mais segurança acerca de como a IA está sendo desenvolvida e implantada. E qual é a recompensa disso? Aumento da confiança e uma possível vantagem competitiva.

No entanto, a IA é uma jornada contínua. As tecnologias implementadas geralmente atingem uma posição estável, mesmo com o surgimento de recursos mais avançados. A próxima fase já está tomando forma: as organizações estão se preparando para investir significativamente em IA agêntica e em outros modelos transformadores de IA que vão além da automação para dar suporte ao raciocínio, à tomada de decisões e à execução dinâmica de tarefas.

"A implementação da IA é diferente da implantação de tecnologias anteriores", diz Cathy Cobey, Líder Global de IA Responsável da EY, Assurance. "Não se trata de um exercício único, mas de uma jornada em que a governança e os controles de IA precisam acompanhar o ritmo dos investimentos em funcionalidade de IA. Manter a confiança na IA exigirá a educação contínua dos consumidores e da liderança de nível sênior, incluindo o conselho, sobre os riscos associados às tecnologias de IA e como a organização respondeu com governança e controles eficazes."

Os diretores estão pouco alinhados com os consumidores em relação à IA responsável 

Quase dois em cada três diretores (63%) acham que estão bem alinhados com os consumidores em suas percepções e uso da IA. No entanto, quando comparado com os dados do estudo EY AI Sentiment Index - uma pesquisa de 15 países com 15.060 consumidores - fica claro que essa confiança é equivocada.

Em uma série de princípios de IA responsável, desde a precisão e a privacidade até a explicabilidade e a responsabilidade, os consumidores expressam consistentemente uma preocupação maior do que os diretores. Na verdade, é duas vezes mais provável que os consumidores se preocupem com a possibilidade de as empresas não cumprirem esses princípios.

Os diretores entrevistados também estão menos preocupados do que os consumidores com uma série de possíveis danos sociais relacionados à IA. É interessante notar que a questão em que os dois grupos estão mais alinhados é a perda de empregos - e nenhum deles considera isso uma grande preocupação. Isso é digno de nota, dada a atenção que o potencial de perda de empregos relacionados à IA tem recebido na mídia ao longo dos anos. Em vez disso, os consumidores estão mais preocupados - significativamente mais do que os diretores - com questões como a desinformação gerada pela IA, o uso da IA para manipular indivíduos e o impacto da IA em segmentos vulneráveis da sociedade.  

Esse desalinhamento também pode ser devido ao fato de as organizações não comunicarem o grau de maturidade de sua governança de IA, sua abordagem para gerenciar riscos ou as proteções que já implementaram. O fortalecimento da transparência com relação aos perfis de risco da IA e às práticas de inovação responsável poderia ajudar a fechar essa lacuna, ajudando os consumidores a se sentirem mais bem informados e tranquilos.

Mais IA, mais excesso de confiança?

É interessante notar que as empresas que ainda estão no processo de integração da IA ("empresas integradoras") tendem a ser mais cautelosas ao avaliar o quanto estão alinhadas com as atitudes dos consumidores. Pouco mais da metade (51%) dos diretores desse grupo acreditam que estão bem alinhados, em comparação com 71% dos diretores de organizações em que a IA já está totalmente integrada à empresa.

Mas as empresas integradoras apresentam um alinhamento mais forte com os consumidores, especialmente em seus níveis de preocupação com a IA responsável. Os diretores desse grupo expressam maior preocupação em relação a princípios fundamentais, como privacidade, segurança e confiabilidade - preocupações que refletem de perto as dos consumidores.

Isso pode refletir uma maior sensibilidade durante os estágios iniciais da adoção da IA, em que as estruturas de governança e o envolvimento dos stakeholders ainda estão sendo moldados. Por outro lado, os diretores que relatam ter uma implementação de IA em grau de maturidade mais elevado podem se sentir mais confiantes na força de seus controles e proteções e, portanto, expressar níveis mais baixos de preocupação.

Outro possível motivo para esse descompasso pode ser o fato de que uma parte significativa dos diretores no grupo "totalmente integrado" pode ter uma consciência incompleta do potencial da IA. Se esses líderes da diretoria executiva tiverem uma baixa conscientização sobre IA, podem estar excessivamente confiantes sobre seu alinhamento com os consumidores e até mesmo sobre a solidez de sua governança de IA.

Independentemente disso, a lacuna entre as preocupações dos consumidores e o alinhamento percebido continua significativa e pode afetar a confiança do público nos serviços habilitados para IA. Mesmo com práticas robustas de IA responsável em vigor, se os consumidores não entenderem como os riscos estão sendo gerenciados, podem continuar reticentes em abraçar essa causa. É por isso que a transparência e a comunicação são fundamentais.

De fato, o EY AI Sentiment Index Study revela que existem lacunas significativas entre a abertura dos consumidores à IA e sua adoção da tecnologia - especialmente em setores como finanças, saúde e serviços públicos, em que a confiança é fundamental.

Novos modelos de IA sinalizam maiores desafios de governança

Muitas empresas ainda estão lutando para implementar princípios de IA responsável para IA generativa (GenAI) e LLMs. Em média, as organizações dispõem de controles fortes em vigor para apenas três dos nove princípios de IA responsável. Mais da metade (51%) concorda que é um desafio para sua organização desenvolver estruturas de governança para as tecnologias atuais de IA, e a perspectiva para as tecnologias emergentes de IA é ainda mais preocupante. Metade dos diretores afirma que a abordagem de sua organização aos riscos relacionados à tecnologia é insuficiente para enfrentar os novos desafios associados à próxima onda de IA.

Na verdade, um segmento significativo de empresas que estão usando ou planejam começar a usar essas tecnologias no próximo ano não tem nem mesmo um nível moderado de familiaridade com os riscos que essas tecnologias apresentam. As empresas precisam fechar essa lacuna de conscientização agora, de modo a incentivar maior confiança e adoção.

Os CEOs estão liderando o caminho

Os CEOs são um "ponto brilhante" nos dados, pois se destacam de outros líderes da diretoria em sua conscientização sobre questões de IA responsável e alinhamento com os consumidores. Entre as sete funções pesquisadas - incluindo CFOs, CHROs, CIOs, CTOs, CMOs e CROs - os CEOs estão: 

• Melhor alinhados com os consumidores no tocante às preocupações responsáveis com a IA 
• Menor probabilidade de exagerar a força de seus controles 
• Entre os mais familiarizados com as tecnologias emergentes e seus riscos (perdendo apenas para os CIOs e CTOs) 

Isso provavelmente reflete seu mandato mais amplo - tudo depende do CEO - inclusive a IA. Cinquenta por cento dos CEOs afirmam que são os principais responsáveis pela IA, mais do que qualquer outra função, com exceção do CTO e do CIO. Os CEOs também estão mais voltados para o cliente do que os outros executivos da diretoria pesquisados, com a possível exceção dos CMOs, o que os torna mais alinhados com as preocupações dos consumidores. 

A IA é uma tecnologia generalizada, com implicações em todos os aspectos da empresa e em seu modelo de negócios. A visão equilibrada que o CEO apresenta da inovação, do risco e das necessidades dos stakeholders o deixa em uma posição forte para colocar-se em defesa da IA responsável - e para ajudar seus pares na diretoria a fazer o mesmo.

Três ações para os diretores: Ouvir, agir, comunicar 

O que os diretores podem fazer para agir de acordo com esses pontos identificados? Sugerimos três ações principais:

1. Ouvir: Exponha a voz do cliente a toda a diretoria executiva
   
   Os consumidores têm preocupações consideráveis sobre o uso responsável da IA e a adesão das empresas a esses princípios. Os líderes de toda a diretoria precisam se conscientizar melhor das preocupações e preferências de seus clientes. De forma crítica, isso compreende não apenas os líderes com funções definidas voltadas para o mercado, como o CEO ou o CMO, mas também aqueles que tradicionalmente têm funcionado mais em uma capacidade de back-office, como CTOs e CIOs.
   
   Isso pode ocorrer de várias maneiras. Estruturar oportunidades para conectar pontos em toda a diretoria, permitindo que os líderes que não estão voltados para o cliente aprendam com os executivos voltados para o mercado. Melhor ainda, coloque os diretores, como CIOs, CTOs e CROs, em situações de contato com o cliente. Exponha-os ao feedback e às pesquisas com os clientes. Faça com que eles participem de grupos de teste. Sempre que possível, coloque-os diretamente no ambiente do cliente - por exemplo, tornando obrigatório que todos os líderes da diretoria executiva das empresas de saúde passem alguns dias por ano interagindo com os pacientes em um hospital ou clínica.
   
   
2. Agir: Integrar a IA responsável em todo o processo de desenvolvimento
   
   A IA responsável precisa fazer parte de todo o processo de desenvolvimento e inovação da IA, desde a concepção inicial até a implantação. Os designers de tecnologia já utilizam práticas como design centrado no ser humano e testes A/B para otimizar a experiência do usuário. Aproveite essas práticas recomendadas para tornar o "design responsável de IA centrado no ser humano" um elemento integral de sua inovação de IA de ponta a ponta. Vá além dos requisitos regulamentares para desenvolver abordagens robustas que tratem dos principais riscos e das preocupações dos clientes levantadas por seus aplicativos e casos de uso de IA.
   
   Modelos mais novos de IA, como o "agentic", já estão aqui. Outros se seguirão, e a história recente sugere que eles podem chegar mais cedo do que se supõe. É importante entender como esses modelos emergentes trarão novos riscos e desafios de governança de IA e começar a identificar maneiras de lidar com eles agora.
   
   Atualize continuamente suas habilidades e as de suas equipes, por meio de treinamento interno, participando de conferências do setor ou interagindo com especialistas externos, para se manter à frente dos riscos emergentes e elevados à medida que essas tecnologias continuam a avançar.
   
   
3. Comunicar-se:Mostre suas práticas de IA responsável
   
   A IA responsável é mais do que um exercício de gerenciamento de riscos ou de conformidade. Os dados sugerem que ela pode ser um diferencial competitivo. Os consumidores têm preocupações reais com a IA e, se não confiarem em seus sistemas, não os usarão - o que, em última análise, prejudicará as receitas das empresas se não for resolvido.
   
   Mas isso também sugere uma oportunidade de mercado. Na ausência de informações transparentes acerca de como as empresas estão lidando com suas preocupações, os consumidores veem as empresas de maneira uniforme e indiferenciada. Ao assumir a liderança em IA responsável e torná-la uma peça central de sua marca e de suas mensagens, você pode se destacar aos olhos de seus clientes atuais e potenciais e se posicionar à frente da concorrência.
   

Sumário

Para obter uma vantagem competitiva, os integrantes da diretoria devem priorizar as preocupações dos clientes, incorporar a IA responsável em todo o ciclo de desenvolvimento e comunicar como os riscos da IA são mitigados. Compreender as opiniões dos consumidores e integrar a IA responsável em cada estágio da inovação revela-se fundamental. Essa abordagem ajudará as empresas a criar confiança em seus aplicativos de IA, garantindo que se alinhem às expectativas dos consumidores e mitiguem os riscos associados às tecnologias emergentes de IA. Ao fazer isso, as organizações podem se posicionar como líderes em IA responsável e, ao mesmo tempo, criar valor de longo prazo.