Mientras la IA pasa de asesorar a ser una autoridad, ¿quién define sus límites?

En lo que respecta a la gente común, el mayor avance de la IA no ha sido la inteligencia, sino la comodidad. Al encargarse de pequeñas tareas cotidianas, la IA se ha integrado en nuestras rutinas diarias sin apenas encontrar resistencia. La planificación de rutas, las recomendaciones de películas y la atención al cliente son tareas que la gente espera que la tecnología se encargue de realizar. Se trata de tareas en las que los resultados son fáciles de revisar, corregir o anular, y esa sensación de control es importante.

La encuesta de 2026 muestra que experiencias como estas son los pilares de la confianza. A medida que las personas interactúan con la IA de formas que les resultan útiles y sencillas, sus dudas dan paso a la aceptación. La IA ya no se percibe como algo novedoso o experimental, sino que es simplemente útil.

El crecimiento de la IA no se distribuye de manera uniforme entre todas las actividades, pero la tendencia es clara. En la mayoría de los casos, las personas no buscan la innovación por el simple hecho de innovar. Buscan un servicio más rápido (57 %), precios más bajos (57 %) y productos y servicios que funcionen mejor (42 %). Curiosamente, el deseo de las personas de tomar menos decisiones no es un factor tan motivador (25 %).

En el sector minorista, la inteligencia artificial se utiliza cada vez más para ayudar a los usuarios a expresar sus intenciones, en lugar de a navegar por los filtros. En lugar de buscar por palabras clave o categorías, los usuarios pueden describir lo que desean lograr y dejar que la IA reduzca las opciones.

El año pasado, Nike lanzó la versión beta de NikeAI en su aplicación móvil en los Estados Unidos. La aplicación actualizada permite a los clientes describir lo que desean hacer, como entrenar para una carrera, equipar a un equipo o encontrar productos que se ajusten a sus preferencias específicas. La IA de la aplicación interpreta esa intención para ofrecer la mejor recomendación posible. La experiencia está diseñada para ser sencilla, intuitiva y fácil de personalizar, utilizando modelos de lenguaje grandes (LLM, por sus siglas en inglés) adaptados con los conocimientos específicos de Nike. Al brindar apoyo a los clientes cuando lo necesitan, pero dejando las decisiones finales firmemente en sus manos, la IA asistencial reduce las fricciones, ahorra tiempo y genera confianza sin introducir riesgos.

Estas situaciones pueden parecer de poca importancia, pero revisten una gran importancia estratégica. Las interacciones cotidianas como estas ayudan a las personas a determinar si un sistema les parece confiable, comprensible y acorde con sus necesidades. Además, permiten a las organizaciones obtener información temprana sobre dónde se está generando confianza y dónde puede romperse. Para los líderes, esto significa que pueden utilizar experiencias de IA de apoyo y de menor riesgo como herramienta de diagnóstico. Estos casos revelan qué tareas están dispuestas a delegar las personas, qué garantías esperan y con qué rapidez puede aumentar la confianza una vez que se demuestra el valor.

Los usos relacionados con la salud destacan porque van más allá de la simple comodidad y se adentran en un ámbito de mayor trascendencia. Hoy en día, muchas personas utilizan la inteligencia artificial para describir sus síntomas, preguntar qué les puede pasar o decidir si deben acudir al médico. Aproximadamente 230 millones de personas de todo el mundo formulan preguntas relacionadas con la salud a ChatGPT cada semana¹.

Las aplicaciones de evaluación de síntomas basadas en inteligencia artificial, como Buoy Health, permiten a los usuarios describir sus síntomas con sus propias palabras y acceder a información clínica. Buoy ofrece orientación sobre el tipo de atención que los usuarios pueden necesitar. Estas herramientas influyen cada vez más en las decisiones sanitarias en la vida real, incluyendo si las personas acceden a los sistemas de atención médica formal y en qué momento lo hacen.

El acceso a este tipo de herramientas ayuda a explicar por qué el 26 % de los encuestados afirma haber pedido a la IA que le diagnosticara síntomas, frente al 19 % del año pasado. El mismo número (26 %) utiliza la inteligencia artificial para buscar información sobre salud sin acudir al médico. «Lo que llama la atención es la rapidez con la que la IA se está convirtiendo en la primera opción a la que se recurre para resolver dudas sobre salud», afirma Kim Dalla Torre, EY Global Health Sector Leader. «A medida que las personas comienzan a confiar en ella para tomar decisiones reales, la necesidad de contar con una IA segura, precisa y fácil de validar cobra una importancia mucho mayor».

Las organizaciones no deben precipitarse hacia la autonomía total, pero sí deben prestar mucha atención a las experiencias que ya están definiendo las expectativas. Son estos momentos los que determinarán hasta dónde y a qué ritmo están dispuestas a llegar las personas.

A medida que la inteligencia artificial se integra cada vez más en la vida cotidiana y, en algunos casos, comienza a actuar de forma autónoma, la confianza no ha avanzado al mismo ritmo que sus capacidades. La gente sigue preocupada —incluso en los mercados pioneros— por la seguridad, el control, la rendición de cuentas y la autenticidad. Sin embargo, curiosamente, estas preocupaciones no están frenando su adopción. Están definiendo la forma en que la gente desea que se materialice la autonomía, una distinción fundamental para los líderes que se enfrentan a la siguiente fase de la adopción de la IA.

La seguridad es el mayor temor de las personas. Dos tercios temen que los sistemas de IA sean objeto de ataques informáticos o sufran filtraciones, y menos de la mitad confía en que los gobiernos o las empresas protejan los datos personales que utilizan sus sistemas de IA. A medida que aumenta la autonomía, esta inquietud deja de ser una simple preocupación de fondo. Cuanto más puede hacer la IA, más importancia cobra la seguridad. Los líderes deben considerar qué podría suceder si los sistemas se vieran comprometidos y con qué rapidez podría agravarse el daño.

Otra de las principales preocupaciones de la gente es el control. Les preocupa que las decisiones tomadas por la IA no reflejen sus valores o prioridades personales; siete de cada diez coinciden en que la supervisión humana sigue siendo esencial. Esto no supone un rechazo a la IA, sino una petición de autonomía y de la capacidad de comprender lo que hace el sistema, intervenir cuando sea necesario y optar por no participar cuando haya mucho en juego.

Seis de cada diez personas temen que las organizaciones no rindan cuentas por el uso de la inteligencia artificial que genere consecuencias negativas. Casi el mismo número (55 %) teme que las organizaciones no cumplan con sus propias políticas de IA o con las regulaciones gubernamentales pertinentes.

Algunas organizaciones están respondiendo haciendo más explícitos sus compromisos en materia de IA. Por ejemplo, Tokio Marine Holdings, una multinacional del sector de los seguros, adoptó una política pública sobre IA como parte de su estrategia para utilizar esta tecnología en la tramitación de reclamaciones, la detección de fraudes y otras actividades de atención al cliente, con el fin de ganarse la confianza en el sector de los seguros, que está sometido a una estricta regulación. Publicada en 2025, la política establece que la empresa no utilizará datos ni técnicas de inteligencia artificial que puedan generar sesgos contra ningún grupo, y que las funciones y decisiones basadas en la inteligencia artificial siempre mantendrán a las personas informadas. Además, se establece que la empresa impedirá el uso de la inteligencia artificial que viole los derechos humanos, difunda información falsa o sesgada, o que dé lugar a filtraciones, falsificaciones o al uso no autorizado de información personal.

Una abrumadora mayoría de los encuestados está de acuerdo en que los resultados generados por la IA deben indicar claramente cuándo algo ha sido creado o influenciado por la IA. Casi tres cuartas partes temen que, a medida que la IA generativa (GenAI) se generalice, ya no sean capaces de distinguir entre lo que es real y lo que es falso.

«La difuminación de la realidad es uno de los riesgos de la IA más subestimados», afirma Katherine Boiciuc, EY Chief Technology and Innovation Officer para la región de Oceanía. «Cuando las personas no pueden distinguir fácilmente qué es real, qué es generado o quién está detrás de una decisión, se genera una ansiedad latente que socava la confianza, incluso cuando la tecnología en sí misma funciona según lo previsto».

Los encuestados también desean que las herramientas de IA incluyan controles parentales y límites de edad, y consideran que los países y las regiones deberían contar con normas más estrictas que regulen su uso en el ámbito empresarial. En los tres tipos de mercado —pionero, en transición y rezagado— la gente considera que deberían adoptarse más medidas de protección.

«Lo que me sorprende no es que la gente quiera mayores garantías en materia de IA, sino lo generalizada que está esa expectativa en todos los mercados», afirma Sarah Liang, EY Global Responsible AI Leader. «Independientemente del lugar donde vivan las personas o del grado de avance en la adopción de la IA, estas reclaman normas más claras, una mayor rendición de cuentas y medidas de protección visibles».

Las capacidades de la IA avanzan a un ritmo vertiginoso, mientras que las estructuras de gobernanza y rendición de cuentas tienen evidentes dificultades para seguirles el paso. A medida que las personas delegan cada vez más las decisiones en la inteligencia artificial en su vida cotidiana, la supervisión a través de políticas, regulaciones y controles organizativos evoluciona a un ritmo más lento. Por lo tanto, las organizaciones deben hacer que sus compromisos sean tangibles mediante la creación de sistemas que resulten comprensibles, controlables y acordes con las necesidades humanas. La confianza no puede basarse únicamente en principios; debe reflejarse en la experiencia de uso de la IA.

El diseño centrado en las personas se ha convertido en uno de los mecanismos más eficaces, aunque poco utilizados, de que disponen las organizaciones para reducir la brecha de confianza.

A medida que los sistemas de IA se vuelven más avanzados, queda claro que la confianza no se genera únicamente a través de políticas, principios o garantías técnicas. Se construye, o se pierde, a través de la experiencia. Lo que las personas ven, comprenden y sienten al utilizar la IA para tomar decisiones o influir en ellas determina cada vez más su disposición a volver a probarla.

En este sentido, el diseño se está convirtiendo en la primera línea de la gobernanza de la IA. Es el lugar donde las personas reales disfrutan de garantías, rendición de cuentas y control. Un diseño bien pensado se convierte en el nexo entre funcionalidad y comodidad. Cuando está bien diseñada, la IA ofrece tranquilidad y claridad. Cuando el diseño es deficiente, se consigue el efecto contrario.

«Las experiencias que inspiran mayor confianza amplían la autonomía de forma gradual», explica Peter Neufeld, EY Studio+ EMEIA Financial Services Digital Customer Experience Leader, «ofreciendo primero confianza a los usuarios y ampliando después las funciones que el sistema puede realizar. Diseñar pensando en la comodidad es una cuestión de equilibrio: las personas no se resisten a la autonomía, sino a perder el control».

El informe Human Signals de EY (pdf) analiza las características clave de las experiencias exitosas con la IA:

• Apoyo emocional: las personas que buscan ayuda se preocupan más por la emoción o la complejidad del momento que por el producto que están utilizando.
• Simplicidad: un buen diseño reduce la carga cognitiva al hacer que la experiencia sea lo más fluida posible, desglosando las tareas complejas y aclarando los pasos siguientes.
• Justificaciones y trazabilidad: el diseño optimizado incluye resúmenes, transcripciones y registros para que los usuarios tengan la sensación de tener el control de la interacción y para reducir los malentendidos.
• Ajuste: permite a los usuarios controlar el grado de «calidez» o «neutralidad» que desean que tenga una herramienta de IA. En caso necesario, permite interactuar de inmediato con una persona en lugar de con un bot.
• Inclusividad y accesibilidad: cuenta con interfaces conversacionales que se adaptan a personas con distintos niveles de alfabetización, idioma o accesibilidad.
• Limitaciones visibles: la confianza se genera al mostrar claramente lo que el sistema no hará y al permitir que los usuarios controlen esos límites. La auditabilidad, la anulación y la escalación a personal humano no constituyen un plan de contingencia, sino una característica fundamental de la rendición de cuentas.

El futuro de la IA no no está tomando forma a través de debates abstractos ni de pronósticos a largo plazo. Se va definiendo a través de las decisiones cotidianas: cuándo, dónde y cómo las personas deciden permitir que la IA actúe en su nombre.

Los resultados de la encuesta de este año dejan una cosa clara: la adopción de la IA avanza más rápido que la percepción al respecto. Una minoría cada vez mayor de personas ya está delegando decisiones en la IA, mientras que muchas más están ganando confianza a través de usos cotidianos y de bajo riesgo. En algunos mercados, esta evolución ya está muy avanzada, lo que permite vislumbrar con antelación la rapidez con la que pueden cambiar las expectativas una vez que la familiaridad y el valor coinciden.

Para los líderes empresariales, la dinámica actual del mercado supone tanto una oportunidad como una responsabilidad.

La clave está en reconocer que la autonomía no se alcanza de un solo golpe. Se está expandiendo a través de momentos, usuarios y mercados concretos, a menudo más rápido de lo que las organizaciones esperan, pero no sin seguir un patrón o enviar señales. La clave está en interpretar esas señales a tiempo, identificar los aspectos en los que ya se está generando confianza y actuar de manera deliberada, en lugar de reaccionar de forma impulsiva.

Es fundamental señalar que no se trata de una elección entre la rapidez y la prudencia. Los datos muestran que las personas no esperan a tener una confianza total antes de dar el paso. Están negociando la confianza en constante evolución: siguen utilizando la IA y, en algunos casos, delegando tareas en ella, al tiempo que exigen garantías más claras, una mayor rendición de cuentas y una mayor transparencia.

Esto ha colocado a los líderes en una nueva situación. La cuestión ya no es si la IA autónoma se generalizará. La cuestión es si las organizaciones impulsarán la expansión de manera intencionada, acelerando el proceso allí donde ya existen la confianza y el valor, y ralentizándolo allí donde aún se requiera claridad, garantías o seguridad.

¿Qué deben hacer ahora los líderes?

• Liderar con experiencia, no con promesas: generar confianza a través de la práctica. Priorizar las aplicaciones de IA que aporten un valor claro y cotidiano, y que permitan a las personas revisar, anular o excluirse de ellas a medida que aumenta la confianza.
• Segmentar en función del grado de preparación para la IA, no de los datos demográficos: las personas y los mercados avanzan a ritmos diferentes. Diseñar experiencias, mensajes y controles que se adapten a las necesidades de los usuarios tal como son, en lugar de dar por sentado que existe una única vía para la adopción.
• Hacer visible la confianza: ofrecer información clara, una sólida protección de datos, opciones que mantengan la intervención humana y una rendición de cuentas transparente ya no es un factor diferenciador. Es un requisito indispensable a medida que aumenta la autonomía.
• Diseñar para el contexto emocional: A medida que la IA asume tareas de mayor importancia, un diseño que tenga en cuenta la empatía, la simplicidad y el ritmo es tan importante como el rendimiento. El diseño no es un simple toque final; es un catalizador estratégico para generar confianza y fomentar la adopción.

Los líderes tienen una opción. Pueden permitir que la delegación se expanda de forma predeterminada, impulsada por factores externos y los primeros usuarios. O bien pueden diseñarlo de manera deliberada, con limitaciones visibles, una responsabilidad clara y la confianza incorporada desde el principio.

Quienes decidan actuar de forma deliberada no se limitarán a seguir el ritmo de los cambios. Obtendrán una capacidad duradera para liderar en un mundo cada vez más autónomo.

Los autores desean expresar su agradecimiento a Katherine Boiciuc, Oceania Chief Technology and Innovation Officer, Ernst & Young Australia; a Krista Walpole, Associate Director, EYGS LLP; a AnnMarie Pino, Associate Director, Ernst & Young LLP; a Gaurav Batra, Associate Director, Ernst & Young LLP; y a Harshil Milan Zatakia, asociado supervisor de Ernst & Young LLP, por sus contribuciones a este artículo.

Resumen

El comportamiento cotidiano demuestra que la adopción de la IA avanza más rápido que la confianza del público. Aunque la gente suele expresar su preocupación por cuestiones de confianza y control, sigue incorporando la IA a sus decisiones cotidianas y, poco a poco, recurre a ella para tareas de mayor importancia. Los usos cotidianos y sencillos están normalizando la presencia de la IA y sentando las bases para una mayor delegación. Como resultado, la capacidad de tomar decisiones está empezando a pasar de las personas a los sistemas, a menudo antes de que las organizaciones hayan comprendido del todo dónde se está generando la aceptación o con qué rapidez están cambiando las expectativas.