À medida que a IA passa de conselho a autoridade, quem define seus limites?

Quando se trata de pessoas comuns, o maior avanço da IA não foi a inteligência, mas a conveniência. Ao cuidar de tarefas pequenas e cotidianas, a IA entrou nas rotinas diárias com pouca resistência. O planejamento de rotas, as sugestões de filmes e o suporte ao cliente são atividades que as pessoas esperam que a tecnologia resolva. Essas são tarefas em que os resultados são fáceis de revisar, corrigir ou anular, e esse senso de controle é importante.

A pesquisa de 2026 mostra que experiências como essas são os alicerces da confiança. À medida que as pessoas interagem com a IA de maneiras que parecem úteis e de baixo esforço, sua hesitação dá lugar à aceitação. A IA não parece mais algo novo ou experimental, ela é simplesmente útil.

O crescimento da IA não está distribuído igualmente em todas as atividades, mas a direção da viagem é clara. Na maioria dos casos, as pessoas não estão buscando a inovação por si só. Eles estão buscando um serviço mais rápido (57%), preços mais baixos (57%) e produtos e serviços que funcionem melhor (42%). É interessante notar que o desejo das pessoas de tomar menos decisões não é um fator tão motivador (25%).

No varejo, a IA está sendo cada vez mais usada para ajudar as pessoas a articular a intenção em vez de navegar pelos filtros. Em vez de pesquisar por palavras-chave ou categorias, as pessoas podem descrever o que estão tentando alcançar e deixar a IA restringir o campo.

No ano passado, a Nike lançou a versão beta da NikeAI em seu aplicativo móvel nos EUA. O aplicativo atualizado permite que os clientes descrevam o que desejam fazer, como treinar para uma corrida, equipar uma equipe ou encontrar produtos que atendam a preferências específicas. A IA no aplicativo interpreta essa intenção para fazer a melhor recomendação possível. A experiência foi projetada para ser simples, intuitiva e fácil de substituir, usando grandes modelos de linguagem (LLMs) personalizados com o conhecimento de domínio da Nike. Ao oferecer suporte aos clientes quando eles precisam, mas deixando as decisões finais firmemente em suas mãos, a IA assistiva reduz o atrito, economiza tempo e aumenta a confiança sem introduzir riscos.

Essas situações podem parecer de baixo risco, mas são estrategicamente importantes. Interações cotidianas como essas ajudam as pessoas a saber se um sistema parece confiável, compreensível e alinhado com suas necessidades. Eles também permitem que as organizações obtenham insights antecipados sobre onde a confiança está se fortalecendo e onde ela pode se deteriorar. Para os líderes, isso significa que eles podem usar experiências de IA assistida e de menor importância como uma ferramenta de diagnóstico. Os casos revelam quais tarefas as pessoas estão dispostas a entregar, quais proteções elas esperam e com que rapidez o conforto pode aumentar quando o valor é comprovado.

Os usos relacionados à saúde se destacam porque começam a ir além da conveniência e entram em um território mais consequente. Atualmente, muitas pessoas usam a IA para descrever sintomas, perguntar o que pode estar errado ou decidir se devem procurar atendimento médico. Cerca de 230 milhões de pessoas fazem perguntas relacionadas à saúde no ChatGPT a cada semana em todo o mundo.¹

Aplicativos de avaliação de sintomas com tecnologia de IA, como o Buoy Health, permitem que os usuários descrevam os sintomas com suas próprias palavras e obtenham insights clínicos. O Buoy oferece orientação sobre o tipo de atendimento que os usuários podem precisar. Essas ferramentas estão moldando cada vez mais as decisões de saúde do mundo real, inclusive se e quando as pessoas entram nas vias formais de atendimento.

O acesso a esses tipos de ferramentas ajuda a explicar por que 26% dos participantes da pesquisa relatam que pediram à IA para diagnosticar sintomas, em comparação com 19% no ano passado. O mesmo número (26%) usa IA para procurar informações sobre saúde sem consultar um médico. "O que é impressionante é a rapidez com que a IA está se tornando uma primeira parada para questões de saúde", diz Kim Dalla Torre, Líder do Setor de Saúde Global da EY. "À medida que as pessoas começam a contar com ela para orientar decisões reais, a necessidade de uma IA segura, precisa e facilmente validada se torna muito mais importante."

As organizações não devem se apressar em direção à autonomia total, mas devem prestar muita atenção às experiências que já estão moldando as expectativas. São esses momentos que determinarão até onde e quão rápido as pessoas estão dispostas a ir.

À medida que a IA se torna mais integrada à vida cotidiana e, em alguns casos, começa a agir de forma autônoma, a confiança não acompanha o ritmo da capacidade. As pessoas continuam preocupadas — mesmo nos mercados pioneiros — com a segurança, o controle, a responsabilidade e a autenticidade. Mas, curiosamente, essas preocupações não estão retardando a adoção. Eles estão moldando a maneira como as pessoas querem que a autonomia apareça — uma distinção fundamental para os líderes que navegam na próxima fase da adoção da IA.

A segurança é o maior medo das pessoas. Dois terços se preocupam com a possibilidade de os sistemas de IA serem hackeados ou violados, e menos da metade confia que os governos ou as empresas protejam os dados pessoais usados por seus sistemas de IA. À medida que a autonomia aumenta, essa preocupação se torna mais do que apenas uma preocupação de fundo. Quanto mais a IA pode fazer, mais a segurança entra em foco. Os líderes devem considerar o que poderia acontecer se os sistemas fossem comprometidos e a rapidez com que esse dano poderia ser dimensionado.

A outra grande preocupação das pessoas é o controle. Eles temem que as decisões tomadas pela IA não reflitam seus valores ou prioridades pessoais; sete em cada dez concordam que a supervisão humana continua sendo essencial. Não se trata de uma rejeição da IA, mas de uma solicitação de agência e da capacidade de entender o que o sistema está fazendo, intervir quando for importante e optar por sair quando as apostas aumentarem.

Seis em cada 10 pessoas se preocupam com o fato de as organizações não conseguirem se responsabilizar pelo uso da IA que leva a consequências negativas. Quase a mesma quantidade (55%) teme que as organizações não consigam cumprir suas próprias políticas de IA ou as regulamentações governamentais relevantes.

Algumas organizações estão respondendo tornando seus compromissos de IA mais explícitos. Por exemplo, a Tokio Marine Holdings, uma multinacional de seguros, adotou uma política pública de IA como parte do uso da IA para processamento de sinistros, detecção de fraudes e outras atividades de atendimento ao cliente, para ganhar confiança no setor de seguros altamente regulamentado. Lançada em 2025, a política afirma que a empresa não dependerá de dados ou técnicas de IA que possam introduzir preconceitos contra qualquer grupo, e que as funções e decisões baseadas em IA sempre manterão as pessoas informadas. Além disso, afirma que a empresa impedirá o uso de IA que viole os direitos humanos, distribua informações falsas ou tendenciosas ou leve a vazamentos, falsificações ou uso não autorizado de informações pessoais.

A esmagadora maioria dos entrevistados concorda que os resultados da IA devem mostrar claramente quando algo é criado ou influenciado pela IA. Quase três quartos se preocupam com o fato de que, à medida que a IA generativa (GenAI) se tornar mais difundida, eles não conseguirão mais distinguir o que é real ou falso.

"O embaçamento da realidade é um dos riscos de IA mais subestimados", diz Katherine Boiciuc, Diretora de Tecnologia e Inovação da EY para a região da Oceania. "Quando as pessoas não conseguem distinguir facilmente o que é real, o que é gerado ou quem está por trás de uma decisão, isso cria uma ansiedade de baixo grau que corrói a confiança, mesmo quando a tecnologia em si está funcionando como pretendido."

Os entrevistados também querem que as ferramentas de IA incluam controles parentais e limites de idade e acreditam que os países e as regiões devem ter regras mais rígidas que regulem o uso organizacional. Em todos os três tipos de mercado — Pioneiro, Transitório e Retardatário — as pessoas acreditam que mais salvaguardas devem ser adotadas.

"O que me surpreende não é o fato de as pessoas quererem salvaguardas de IA mais fortes — é o quão consistente é essa expectativa em todos os mercados", diz Sarah Liang, Líder Global de IA Responsável da EY. "Independentemente de onde as pessoas moram ou do grau de avanço da adoção da IA, elas estão pedindo regras mais claras, maior responsabilidade e proteções visíveis."

A capacidade de IA está avançando rapidamente, enquanto as estruturas de governança e responsabilidade estão claramente lutando para acompanhar o ritmo. Como as pessoas delegam cada vez mais decisões à IA por meio do uso diário, a supervisão por meio de políticas, regulamentações e controle organizacional está evoluindo mais lentamente. Portanto, as organizações devem tornar suas promessas tangíveis, criando sistemas que pareçam compreensíveis, controláveis e alinhados com as necessidades humanas. A confiança não pode estar apenas nos princípios, ela precisa aparecer na experiência de uso da IA.

O design centrado no ser humano se tornou um dos mecanismos mais poderosos, porém pouco utilizados, que as organizações têm para fechar a lacuna de confiança.

À medida que os sistemas de IA se tornam mais avançados, fica claro que a construção da confiança não se dá apenas por meio de políticas, princípios ou garantias técnicas. Ela é construída ou perdida por meio da experiência. O que as pessoas veem, entendem e sentem quando usam a IA para tomar ou influenciar decisões determina cada vez mais se elas estão dispostas a tentar novamente.

Nesse sentido, o design está se tornando a linha de frente da governança de IA. É onde as pessoas reais experimentam as salvaguardas, a responsabilidade e o controle. O design cuidadoso torna-se a ponte entre a capacidade e o conforto. Quando bem projetada, a IA oferece segurança e clareza. Quando mal projetado, ele faz o oposto.

"As experiências mais confiáveis expandem a autonomia gradualmente", explica Peter Neufeld, Líder de Experiência Digital do Cliente de Serviços Financeiros do EY Studio+ EMEIA, "dando confiança aos usuários primeiro e depois expandindo o que o sistema pode fazer. Projetar para o conforto é uma questão de ritmo — as pessoas não resistem à autonomia, elas resistem a perder o controle."

O relatório EY Human Signals (pdf) explora os principais atributos das experiências de IA bem-sucedidas:

• Suporte emocional: As pessoas que procuram ajuda se preocupam mais com a emoção ou a complexidade do momento do que com o produto que estão usando.
• Simplicidade: Um bom design reduz a carga cognitiva ao tornar uma experiência o mais simples possível, dividindo tarefas complexas e esclarecendo as próximas etapas.
• Prova e rastreabilidade: O design superior incorpora resumos, transcrições e registros para que as pessoas sintam que estão no controle da interação e para reduzir erros de interpretação.
• Ajuste: Ele dá às pessoas o controle que desejam sobre a sensação de "calor" ou "neutralidade" de uma ferramenta de IA. Se necessário, ele fornece acesso instantâneo para interagir com um ser humano em vez de um bot.
• Inclusão e acessibilidade: Ele tem interfaces de conversação que dão suporte a pessoas com diferentes níveis de alfabetização, linguagem ou acessibilidade.
• Restrições visíveis: A confiança vem de mostrar claramente o que o sistema não fará e dar aos usuários controle sobre esses limites. A capacidade de auditoria, a substituição e o escalonamento humano não são um plano de backup, mas um recurso essencial da responsabilidade.

O futuro da IA não está sendo moldado por debates abstratos ou previsões de longo prazo. Ele está sendo moldado pelas escolhas diárias — quando, onde e como as pessoas decidem deixar a IA agir em seu nome.

Os resultados da pesquisa deste ano deixam uma coisa clara: a adoção da IA está avançando mais rapidamente do que o sentimento. Uma minoria cada vez maior de pessoas já está delegando decisões à IA, enquanto muitas outras estão ganhando confiança por meio de usos cotidianos e de baixo risco. Em alguns mercados, esse progresso já está bem encaminhado, oferecendo uma visão inicial da rapidez com que as expectativas podem mudar quando a familiaridade e o valor se alinham.

Para os líderes empresariais, a dinâmica atual do mercado cria tanto uma oportunidade quanto uma responsabilidade.

A oportunidade está no reconhecimento de que a autonomia não está chegando de uma vez. Ele está se expandindo por meio de momentos, usuários e mercados específicos, geralmente mais rápido do que as organizações esperam, mas não sem um padrão ou sinal. A responsabilidade está em entender esses sinais desde o início, aprender com o que já está formando confiança e responder deliberadamente em vez de reagir.

Crucialmente, não se trata de uma escolha entre velocidade e cautela. Os dados mostram que as pessoas não estão esperando a confiança perfeita antes de seguir em frente. Eles estão negociando a confiança em movimento — continuando a usar e, em alguns casos, a delegar à IA, ao mesmo tempo em que pedem salvaguardas mais claras, maior responsabilidade e maior transparência.

Isso colocou os líderes em uma nova posição. A questão não é mais se a IA autônoma será dimensionada. Trata-se de saber se as organizações moldarão o escalonamento de forma intencional, acelerando onde já existe confiança e valor, e desacelerando onde ainda é necessária clareza, salvaguardas ou confiança.

O que os líderes devem fazer em seguida?

• Liderar com experiência, não com promessas: Conquiste a confiança por meio do uso. Priorize aplicativos de IA que ofereçam valor claro e cotidiano e permitam que as pessoas revisem, substituam ou optem por não participar à medida que a confiança aumenta.
• Segmentar por prontidão para IA, não por dados demográficos: As pessoas e os mercados estão progredindo em velocidades diferentes. Projete experiências, mensagens e controles que atendam aos usuários onde eles estão, em vez de presumir um único caminho para a adoção.
• Tornar a confiança visível: Fornecer divulgações claras, proteções sólidas de dados, opções de pessoas no circuito e responsabilidade transparente não é mais um diferencial. É um pré-requisito à medida que a autonomia aumenta.
• Projetar para o contexto emocional: À medida que a IA assume tarefas de alto risco, o design que considera a empatia, a simplicidade e o ritmo é tão importante quanto o desempenho. O design não é um toque final; ele é um catalisador estratégico para a confiança e a adoção.

Os líderes têm uma escolha. Eles podem permitir que a delegação se expanda por padrão, moldada por forças externas e pelos primeiros usuários. Ou podem projetá-lo deliberadamente, com restrições visíveis, responsabilidade clara e confiança incorporada desde o início.

Aqueles que decidirem agir deliberadamente farão mais do que acompanhar o ritmo das mudanças. Eles obterão uma licença duradoura para liderar em um mundo cada vez mais autônomo.

Os autores gostariam de agradecer a Katherine Boiciuc, Diretora de Tecnologia e Inovação da Oceania, Ernst & Young Australia; Peter Neufeld, Líder de Experiência Digital do Cliente de Serviços Financeiros da EY Studio+ EMEIA, Ernst & Young LLP, Krista Walpole, Diretora Associada, EYGS LLP; AnnMarie Pino, Diretora Associada, Ernst & Young LLP; Gaurav Batra, Diretor Associado, Ernst & Young LLP e Harshil Milan Zatakia, Associado Supervisor, Ernst & Young LLP por suas contribuições para este artigo.

Sumário

O comportamento cotidiano mostra que a adoção da IA está avançando mais rapidamente do que a confiança do público. Embora as pessoas frequentemente expressem preocupação com a confiança e o controle, elas continuam a integrar a IA nas decisões diárias, confiando gradualmente nela para tarefas mais importantes. Os usos familiares e de baixo esforço estão normalizando a presença da IA e estabelecendo a base para uma maior delegação. Como resultado, a autoridade de tomada de decisão está começando a mudar das pessoas para os sistemas, muitas vezes antes que as organizações tenham entendido completamente onde a aceitação está se formando ou com que rapidez as expectativas estão mudando.