À medida que a IA passa de conselho a autoridade, quem define os seus limites?

No que diz respeito às pessoas comuns, o maior avanço da IA não foi a inteligência, mas sim a conveniência. Ao ocupar-se de pequenas tarefas quotidianas, a IA entrou nas rotinas diárias com pouca resistência. O planeamento de rotas, as sugestões de filmes e o apoio ao cliente são atividades que as pessoas esperam que a tecnologia resolva. Estas são tarefas em que os resultados são fáceis de rever, corrigir ou anular e em que a sensação de controlo é importante.

O inquérito 2026 mostra que experiências como estas são os alicerces da confiança. À medida que as pessoas interagem com a IA de formas que parecem úteis e de pouco esforço, a sua hesitação dá lugar à aceitação. A IA já não parece nova ou experimental, é simplesmente útil.

O crescimento da IA não está distribuído uniformemente por todas as atividades, mas a direção da viagem é clara. Na maioria dos casos, as pessoas não procuram a inovação por si só. Procuram um serviço mais rápido (57%), preços mais baixos (57%) e produtos e serviços que funcionem melhor (42%). Curiosamente, o desejo das pessoas de tomar menos decisões não é um fator tão motivador (25%).

No retalho, a IA está a ser cada vez mais utilizada para ajudar as pessoas a articularem intenções em vez de navegarem pelos filtros. Em vez de pesquisar por palavras-chave ou categorias, as pessoas podem descrever o que estão a tentar alcançar e deixar que a IA reduza o campo.

No ano passado, a Nike lançou a versão beta da NikeAI na sua aplicação móvel nos EUA. A aplicação atualizada permite aos clientes descrever o que pretendem fazer, como treinar para uma corrida, equipar uma equipa ou encontrar produtos que satisfaçam preferências específicas. A IA na aplicação interpreta essa intenção para fazer a melhor recomendação possível. A experiência foi concebida para ser simples, intuitiva e fácil de substituir, utilizando grandes modelos de linguagem (LLM) personalizados com o conhecimento de domínio da Nike. Ao dar apoio aos clientes quando eles precisam, mas deixando as decisões finais firmemente nas suas mãos, a IA de assistência reduz o atrito, poupa tempo e cria confiança sem introduzir riscos.

Estas situações podem parecer pouco arriscadas, mas são estrategicamente importantes. Interações quotidianas como estas ajudam as pessoas a perceber se um sistema é fiável, compreensível e está de acordo com as suas necessidades. Permitem também que as organizações obtenham uma visão antecipada dos pontos em que a confiança está a aumentar e dos pontos em que pode quebrar. Para os líderes, isto significa que podem utilizar experiências de IA de apoio de menor importância como ferramenta de diagnóstico. Os casos revelam quais as tarefas que as pessoas estão dispostas a entregar, quais as salvaguardas que esperam e a rapidez com que o conforto pode crescer quando o valor é comprovado.

As utilizações relacionadas com a saúde destacam-se porque começam a ir além da conveniência para um território mais consequente. Atualmente, muitas pessoas utilizam a IA para descrever sintomas, perguntar o que poderá estar errado ou decidir se devem procurar cuidados de saúde. Cerca de 230 milhões de pessoas fazem perguntas relacionadas com a saúde ao ChatGPT todas as semanas em todo o mundo.¹

As aplicações de avaliação de sintomas baseadas em IA, como a Buoy Health, permitem que os utilizadores descrevam os sintomas com as suas próprias palavras e obtenham informações clínicas. A boia oferece orientação sobre o tipo de cuidados de que os utilizadores podem necessitar. Estas ferramentas estão a moldar cada vez mais as decisões de saúde no mundo real, incluindo se e quando as pessoas entram em percursos de cuidados formais.

O acesso a este tipo de ferramentas ajuda a explicar por que razão 26% dos inquiridos afirmam ter pedido à IA para diagnosticar sintomas, contra 19% no ano passado. O mesmo número (26%) utiliza a IA para procurar informações de saúde sem consultar um médico. "O que é impressionante é a rapidez com que a IA está se tornando uma primeira parada para questões de saúde", diz Kim Dalla Torre, Líder do Setor de Saúde Global da EY. "À medida que as pessoas começam a confiar nela para orientar decisões reais, a necessidade de uma IA segura, exata e facilmente validada torna-se muito mais importante."

As organizações não devem precipitar-se para a autonomia total, mas devem prestar muita atenção às experiências que já estão a moldar as expetativas. São estes momentos que determinarão até onde e a que velocidade as pessoas estão dispostas a ir.

À medida que a IA se integra cada vez mais na vida quotidiana e, em alguns casos, começa a agir de forma autónoma, a confiança não tem acompanhado o ritmo das capacidades. As pessoas continuam preocupadas - mesmo nos mercados pioneiros - com a segurança, o controlo, a responsabilidade e a autenticidade. Mas, curiosamente, estas preocupações não estão a atrasar a adoção. Estão a moldar a forma como as pessoas querem que a autonomia apareça - uma distinção fundamental para os líderes que navegam na próxima fase de adoção da IA.

A segurança é o maior receio das pessoas. Dois terços preocupam-se com a possibilidade de os sistemas de IA serem pirateados ou violados e menos de metade confia que os governos ou as empresas protejam os dados pessoais utilizados pelos seus sistemas de IA. À medida que a autonomia aumenta, esta preocupação torna-se mais do que uma mera preocupação de fundo. Quanto mais a IA for capaz de fazer, mais a segurança se torna importante. Os líderes devem considerar o que pode acontecer se os sistemas forem comprometidos e a rapidez com que os danos podem aumentar.

A outra grande preocupação das pessoas é o controlo. Preocupa-os que as decisões tomadas pela IA não reflictam os seus valores ou prioridades pessoais; sete em cada 10 concordam que a supervisão humana continua a ser essencial. Não se trata de uma rejeição da IA, mas sim de um pedido de agência e de uma capacidade para compreender o que o sistema está a fazer, intervir quando é importante e optar por não participar quando o risco aumenta.

Seis em cada 10 pessoas preocupam-se com o facto de as organizações não se responsabilizarem pela utilização da IA que tenha consequências negativas. Quase o mesmo número (55%) receia que as organizações não consigam cumprir as suas próprias políticas de IA ou os regulamentos governamentais relevantes.

Algumas organizações estão a responder tornando os seus compromissos em matéria de IA mais explícitos. Por exemplo, a Tokio Marine Holdings, uma multinacional de seguros, adotou uma política pública de IA como parte da utilização da IA para o processamento de sinistros, deteção de fraudes e outras atividades de serviço ao cliente, para ganhar confiança no setor dos seguros altamente regulamentado. Lançada em 2025, a política afirma que a empresa não se baseará em dados ou técnicas de IA que possam introduzir preconceitos contra qualquer grupo e que as funções e decisões baseadas em IA manterão sempre as pessoas informadas. Afirma ainda que a empresa impedirá a utilização de IA que viole os direitos humanos, distribua informações falsas ou tendenciosas, ou conduza a fugas, falsificações ou utilização não autorizada de informações pessoais.

Uma esmagadora maioria dos inquiridos concorda que os resultados da IA devem mostrar claramente quando algo é criado ou influenciado pela IA. Quase três quartos dos inquiridos receiam que, à medida que a IA generativa (GenAI) se for generalizando, deixem de ser capazes de distinguir o que é real ou falso.

"O desfoque da realidade é um dos riscos de IA mais subestimados", diz Katherine Boiciuc, Diretora de Tecnologia e Inovação da EY para a região da Oceania. "Quando as pessoas não conseguem distinguir facilmente o que é real, o que é gerado ou quem está por detrás de uma decisão, isso cria uma ansiedade de baixo grau que corrói a confiança - mesmo quando a própria tecnologia está a funcionar como pretendido."

Os inquiridos também querem que as ferramentas de IA incluam controlos parentais e limites de idade e acreditam que os países e as regiões devem ter regras mais rigorosas que regulem a utilização organizacional. Em todos os três tipos de mercado - Pioneiro, Transitório e Atrasado - as pessoas acreditam que devem ser adoptadas mais salvaguardas.

"O que me surpreende não é que as pessoas queiram salvaguardas de IA mais fortes - é a consistência dessa expetativa em todos os mercados", diz Sarah Liang, Líder Global de IA Responsável da EY. "Independentemente do local onde vivem ou do grau de avanço da adoção da IA, as pessoas pedem regras mais claras, maior responsabilização e protecções visíveis."

A capacidade de IA está a avançar rapidamente, enquanto as estruturas de governação e de responsabilização estão claramente a lutar para acompanhar o ritmo. À medida que as pessoas delegam cada vez mais decisões na IA através da utilização quotidiana - a supervisão através de políticas, regulamentação e controlo organizacional está a evoluir mais lentamente. As organizações devem, portanto, tornar as suas promessas tangíveis, construindo sistemas que sejam compreensíveis, controláveis e alinhados com as necessidades humanas. A confiança não pode viver apenas de princípios, tem de se manifestar na experiência de utilização da IA.

O design centrado no ser humano tornou-se um dos mecanismos mais poderosos, mas pouco utilizados, de que as organizações dispõem para colmatar o défice de confiança.

À medida que os sistemas de IA se tornam mais avançados, é evidente que a criação de confiança não se faz apenas através de políticas, princípios ou garantias técnicas. É construída, ou perdida, através da experiência. O que as pessoas vêem, compreendem e sentem quando utilizam a IA para tomar ou influenciar decisões determina cada vez mais se estão dispostas a experimentá-la novamente.

Neste sentido, o design está a tornar-se a linha da frente da governação da IA. É onde as pessoas reais experimentam as salvaguardas, a responsabilidade e o controlo. Um design cuidado torna-se a ponte entre a capacidade e o conforto. Quando bem concebida, a IA dá-lhe segurança e clareza. Quando mal concebido, faz o contrário.

"As experiências mais fiáveis expandem a autonomia gradualmente", explica Peter Neufeld, EY Studio+ EMEIA Financial Services Digital Customer Experience Leader, "dando primeiro confiança aos utilizadores e depois expandindo o que o sistema está autorizado a fazer. Conceber para o conforto é uma questão de ritmo - as pessoas não resistem à autonomia, resistem a perder o controlo".

O relatório EY Human Signals (pdf) explora os principais atributos das experiências de IA bem-sucedidas:

• Apoio emocional: As pessoas que procuram ajuda preocupam-se mais com a emoção ou a complexidade do momento do que com o produto que estão a utilizar.
• Simplicidade: Um bom design reduz a carga cognitiva ao tornar uma experiência tão fácil quanto possível - decompondo tarefas complexas e clarificando os passos seguintes.
• Prova e rastreabilidade: Uma conceção superior incorpora resumos, transcrições e registos para que as pessoas sintam que têm o controlo da interação e para reduzir os erros de interpretação.
• Ajuste: Dá às pessoas o controlo que pretendem sobre a sensação de "calor" ou "neutralidade" de uma ferramenta de IA. Se necessário, fornece acesso instantâneo à interação com um humano em vez de um bot.
• Inclusão e acessibilidade: Tem interfaces de conversação que apoiam pessoas com diferentes níveis de literacia, linguagem ou acessibilidade.
• Restrições visíveis: A confiança advém de mostrar claramente o que o sistema não fará e de dar aos utilizadores controlo sobre esses limites. A possibilidade de auditoria, a anulação e o escalonamento humano não são um plano de reserva, mas uma caraterística essencial da responsabilidade.

O futuro da IA não está a ser moldado por um debate abstrato ou por previsões a longo prazo. Está a ser moldada pelas escolhas diárias - quando, onde e como as pessoas decidem deixar a IA agir em seu nome.

Os resultados do inquérito deste ano deixam uma coisa clara: a adoção da IA está a avançar mais rapidamente do que o sentimento. Uma minoria crescente de pessoas já está a delegar decisões na IA, enquanto muitas outras estão a ganhar confiança através de utilizações quotidianas e de baixo risco. Em alguns mercados, esta progressão já está bem encaminhada, oferecendo uma visão inicial da rapidez com que as expectativas podem mudar quando a familiaridade e o valor se alinham.

Para os líderes empresariais, a atual dinâmica do mercado cria simultaneamente uma oportunidade e uma responsabilidade.

A oportunidade reside no reconhecimento de que a autonomia não chega de uma só vez. Está a expandir-se através de momentos, utilizadores e mercados específicos, muitas vezes mais rapidamente do que as organizações esperam, mas não sem um padrão ou sinal. A responsabilidade reside em compreender esses sinais precocemente, aprender com o que já está a formar confiança e responder deliberadamente em vez de reativamente.

O mais importante é que não se trata de uma escolha entre rapidez e prudência. Os dados mostram que as pessoas não estão à espera de uma confiança perfeita para avançar. Estão a negociar a confiança em movimento - continuando a utilizar e, em alguns casos, a delegar na IA, ao mesmo tempo que pedem salvaguardas mais claras, maior responsabilização e maior transparência.

Colocou os líderes numa nova posição. A questão já não é saber se a IA autónoma será escalável. Trata-se de saber se as organizações irão moldar a expansão intencionalmente, acelerando onde já existe confiança e valor e abrandando onde ainda é necessária clareza, salvaguardas ou confiança.

O que é que os líderes devem fazer a seguir?

• Lidere com experiência, não com promessas: Crie confiança através da utilização. Dê prioridade a aplicações de IA que forneçam um valor claro e quotidiano e permitam que as pessoas revejam, anulem ou optem por não participar à medida que a confiança aumenta.
• Segmente por prontidão para a IA, não por dados demográficos: As pessoas e os mercados estão a progredir a velocidades diferentes. Conceba experiências, mensagens e controlos que vão ao encontro dos utilizadores onde eles se encontram, em vez de assumir um único caminho para a adoção.
• Torne a confiança visível: Fornecer divulgações claras, fortes protecções de dados, opções de contacto humano e responsabilidade transparente já não é um fator de diferenciação. É um pré-requisito à medida que a autonomia aumenta.
• Desenhe para o contexto emocional: À medida que a IA assume tarefas de maior risco, o design que tem em conta a empatia, a simplicidade e o ritmo é tão importante como o desempenho. O design não é um toque final; é um catalisador estratégico para a confiança e a adoção.

Os líderes têm uma escolha. Podem permitir que a delegação se expanda por defeito, moldada por forças externas e pelos primeiros utilizadores. Ou pode concebê-lo deliberadamente, com restrições visíveis, responsabilidade clara e confiança incorporada desde o início.

Aqueles que optarem por agir deliberadamente farão mais do que acompanhar o ritmo da mudança. Obterão uma licença duradoura para liderar num mundo cada vez mais autónomo.

Os autores gostariam de agradecer a Katherine Boiciuc, Diretora de Tecnologia e Inovação da Oceânia, Ernst & Young Australia; Peter Neufeld, EY Studio+ EMEIA Financial Services Digital Customer Experience Leader, Ernst & Young LLP, Krista Walpole, Diretora Associada, EYGS LLP; AnnMarie Pino, Associate Diretor, Ernst & Young LLP; Gaurav Batra, Associate Diretor, Ernst & Young LLP e Harshil Milan Zatakia, Supervising Associate, Ernst & Young LLP pelas suas contribuições para este artigo.

Resumo

O comportamento quotidiano mostra que a adoção da IA está a avançar mais rapidamente do que a confiança do público. Embora as pessoas manifestem frequentemente preocupações quanto à confiança e ao controlo, continuam a integrar a IA nas decisões diárias, confiando gradualmente nela para tarefas mais importantes. As utilizações familiares e de baixo esforço estão a normalizar a presença da IA e a lançar as bases para uma maior delegação. Como resultado, a autoridade de tomada de decisões está a começar a passar das pessoas para os sistemas, muitas vezes antes de as organizações terem compreendido plenamente onde se está a formar a aceitação ou a rapidez com que as expectativas estão a mudar.