Cómo una IA responsable puede ayudarle a obtener una ventaja competitiva

Para obtener una ventaja competitiva, los líderes deben integrar la IA responsable en toda la empresa y alinearse con lo que realmente importa a los consumidores. 

En resumen

• Muchos líderes de alto nivel sobreestiman su grado de alineación con las inquietudes de los consumidores respecto a la IA.
• Una comunicación clara sobre las prácticas responsables en materia de IA puede impulsar su adopción, al ayudar a los consumidores a sentirse más informados y tranquilos.
• Los directores ejecutivos están liderando la iniciativa en materia de IA responsable, pero se requiere una mayor coordinación por parte de los altos directivos.

La inteligencia artificial (IA) avanza a un ritmo vertiginoso. Las empresas se apresuran a identificar casos de uso, así como a integrar y ampliar el uso de la IA en todos sus productos, servicios y operaciones. Sin embargo, el éxito de una implementación no depende únicamente de la velocidad. La IA responsable es un factor clave para su adopción y la creación de valor a largo plazo.

En la actualidad, la mayoría de las empresas cuentan con principios de IA responsable; sin embargo, ¿en qué medida los están poniendo en práctica? ¿En qué medida comprenden las inquietudes de los consumidores? ¿Y qué grado de confianza tienen en que están bien preparados para los nuevos riesgos que surgen de la próxima ola de modelos y tecnologías de IA autónoma?

Para ayudar a responder estas preguntas, EY ha lanzado la encuesta Responsible AI Pulse —la primera de una serie— con el fin de ofrecer un panorama periódico de las opiniones reales de los líderes empresariales sobre la adopción responsable de la IA.

La primera ronda de esta encuesta revela una brecha significativa entre las percepciones de los altos ejecutivos y la opinión de los consumidores. Los resultados también revelan que muchos líderes de alto nivel tienen una confianza infundada en la solidez de sus prácticas de IA responsable y en su alineación con las inquietudes de los consumidores. Estas brechas tienen consecuencias reales para la adopción y la confianza de los usuarios, las cuales probablemente se acentúen a medida que la IA autónoma se vaya introduciendo cada vez más en el mercado. 

Los directores ejecutivos constituyen una excepción, ya que muestran una mayor preocupación por el uso responsable de la IA, un punto de vista que se alinea más estrechamente con la opinión de los consumidores. Otros líderes de alto nivel tienen la mitad de probabilidades de expresar preocupaciones similares, lo cual podría deberse a menores niveles de concientización o a una menor percepción de responsabilidad. Al prestar atención a la opinión de los clientes, integrar la IA responsable en todo el ciclo de vida de la innovación y situar estos esfuerzos en el centro de la marca y el mensaje, las organizaciones pueden comenzar a cerrar la brecha de confianza y brindar a los consumidores una mayor seguridad respecto a cómo se desarrolla e implementa la IA. ¿Cuál es la recompensa? Mayor confianza y una posible ventaja competitiva.

Sin embargo, la IA es un proceso continuo. Las tecnologías implementadas suelen alcanzar un estado estable, incluso cuando surgen capacidades más avanzadas. La siguiente etapa ya está tomando forma: las organizaciones se están preparando para realizar inversiones significativas en IA con capacidad de acción y otros modelos de IA transformadores que van más allá de la automatización para apoyar el razonamiento, la toma de decisiones y la ejecución dinámica de tareas.

"La implantación de la IA es diferente a la de tecnologías anteriores", afirma Cathy Cobey, EY Global Responsible AI Leader, Assurance. “No se trata de una acción puntual, sino de un proceso en el que su gobernanza y sus controles de IA deben avanzar al mismo ritmo que las inversiones en funcionalidades de IA. Para mantener la confianza en la IA será necesario educar de manera continua a los consumidores y a los altos directivos, incluido el consejo de administración, sobre los riesgos asociados a las tecnologías de IA y sobre cómo la organización ha respondido con una gobernanza y controles eficaces."

Los altos ejecutivos no están en sintonía con los consumidores en lo que respecta a la IA responsable 

Casi dos de cada tres ejecutivos de alto nivel (63 %) consideran que están en sintonía con los consumidores en cuanto a sus percepciones y el uso de la IA. Sin embargo, al compararlos con los datos del estudio EY AI Sentiment Index —una encuesta realizada a 15.060 consumidores en 15 países—, queda claro que esta confianza es infundada.

En una amplia gama de principios de IA responsable —desde la precisión y la privacidad hasta la explicabilidad y la rendición de cuentas—, los consumidores expresan sistemáticamente una mayor preocupación que los ejecutivos de alto nivel. De hecho, en su mayoría tienen el doble de probabilidades de preocuparse por que las empresas no respeten estos principios.

Los ejecutivos de alto nivel que participaron en la encuesta también se muestran menos preocupados que los consumidores respecto a una serie de posibles daños sociales relacionados con la IA. Curiosamente, el tema en el que ambos grupos coinciden en mayor medida es la pérdida de empleos, y ninguno de los dos lo considera un motivo de gran preocupación. Esto es digno de mención, dada la gran atención que ha recibido en los medios de comunicación a lo largo de los años la posibilidad de que se pierdan puestos de trabajo debido a la IA. Por el contrario, los consumidores están más preocupados —mucho más que los ejecutivos de alto nivel— por cuestiones como la desinformación generada por la IA, el uso de la IA para manipular a las personas y el impacto de la IA en los sectores vulnerables de la sociedad.

Esta falta de alineación también podría deberse a que las organizaciones no comunican lo suficiente el nivel de madurez de su gobernanza de la IA, su enfoque para gestionar los riesgos o las medidas de protección que ya han implementado. Reforzar la transparencia en torno a los perfiles de riesgo de la IA y las prácticas de innovación responsable podría ayudar a cerrar esta brecha, lo que contribuiría a que los consumidores se sintieran mejor informados y más tranquilos.

¿Más IA, más exceso de confianza?

Es interesante observar que las empresas que aún se encuentran en el proceso de integración de la IA («empresas en proceso de integración») tienden a ser más cautelosas a la hora de evaluar en qué medida están alineadas con las actitudes de los consumidores. Poco más de la mitad (51 %) de los ejecutivos de este grupo consideran que están bien alineados, en comparación con el 71 % de los ejecutivos de organizaciones en las que la IA ya está plenamente integrada en toda la empresa.

Sin embargo, las empresas que adoptan una estrategia de integración muestran una mayor alineación con los consumidores, especialmente en lo que respecta a sus niveles de preocupación en torno al uso responsable de la IA. Los ejecutivos de este grupo expresan una mayor preocupación respecto a principios clave como la privacidad, la seguridad y la confiabilidad —preocupaciones que reflejan fielmente las de los consumidores.

Esto podría reflejar una mayor sensibilidad durante las primeras etapas de la adopción de la IA, en las que las estructuras de gobernanza y la participación de las partes interesadas aún se están definiendo. Por el contrario, los ejecutivos de alto nivel que indican contar con una implementación de IA más madura pueden sentirse más seguros respecto a la solidez de sus controles y medidas de protección y, por lo tanto, expresar menores niveles de preocupación.

Otra posible razón de esta discrepancia podría ser que una parte significativa de los ejecutivos de alto nivel (CxO) de la cohorte «totalmente integrada» tal vez no tenga un conocimiento completo del potencial de la IA. Si estos líderes de alto nivel tienen un bajo nivel de conocimiento sobre la IA, podrían mostrarse demasiado seguros de su alineación con los consumidores e incluso de la solidez de su gobernanza en materia de IA.

De todos modos, la brecha entre las preocupaciones de los consumidores y la percepción de que se atienden sigue siendo significativa, y podría afectar la confianza del público en los servicios basados en IA. Aun cuando se cuente con prácticas sólidas y responsables en materia de IA, si los consumidores no comprenden cómo se gestionan los riesgos, es posible que sigan mostrándose reticentes a participar. Por eso la transparencia y la comunicación son fundamentales.

De hecho, el estudio «EY AI Sentiment Index» revela que existen brechas significativas entre la apertura de los consumidores hacia la IA y su adopción de esta tecnología, especialmente en sectores como el financiero, el de la salud y los servicios públicos, donde la confianza es fundamental.

Los modelos de IA más recientes plantean mayores desafíos en materia de gobernanza

Muchas empresas siguen enfrentando dificultades para implementar los principios de IA responsable en el ámbito de la IA generativa (GenAI) y los modelos de lenguaje grandes (LLM). En promedio, las organizaciones cuentan con controles sólidos solo para tres de los nueve principios de IA responsable. Más de la mitad (51 %) coinciden en que a su organización le resulta difícil desarrollar marcos de gobernanza para las tecnologías actuales de IA, y las perspectivas respecto a las tecnologías emergentes de IA son aún más preocupantes. La mitad de los ejecutivos de alto nivel (CxO) afirman que el enfoque de su organización respecto a los riesgos relacionados con la tecnología es insuficiente para hacer frente a los nuevos desafíos asociados con la próxima ola de IA.

De hecho, un segmento significativo de empresas que están utilizando estas tecnologías o que planean comenzar a utilizarlas en el próximo año ni siquiera cuenta con un nivel moderado de conocimiento sobre los riesgos que estas tecnologías plantean. Las empresas deben subsanar esta brecha de conocimiento de inmediato, a fin de fomentar una mayor confianza y una mayor adopción.

Los directores generales están marcando el camino

Los directores ejecutivos (CEO) se destacan en los datos, ya que se diferencian del resto de los líderes de alto nivel por su conciencia sobre los temas relacionados con la IA responsable y su alineación con los consumidores. Entre los siete cargos analizados —entre los que se incluyen los directores financieros (CFO), los directores de recursos humanos (CHRO), los directores de información (CIO), los directores de tecnología (CTO), los directores de mercadotecnia (CMO) y los directores de riesgos (CRO)—, los directores generales (CEO) son: 

• Es el que mejor se alinea con las preocupaciones de los consumidores respecto a la IA responsable 
• Los menos propensos a exagerar la eficacia de sus controles 
• Entre quienes mejor conocen las tecnologías emergentes y sus riesgos (solo superados por los directores de informática y los directores de tecnología) 

Es probable que esto refleje su mandato más amplio —todo recae en el director ejecutivo—, incluida la IA. El 50 % de los CEO afirman que tienen la responsabilidad principal en materia de inteligencia artificial, más que cualquier otro cargo, salvo el de director de tecnología (CTO) y el de director de información (CIO). Los directores generales también están más en contacto directo con los clientes que el resto de los ejecutivos de alto nivel encuestados, con la posible excepción de los directores de mercadotecnia, lo que los hace estar más en sintonía con las inquietudes de los consumidores. 

La IA es una tecnología omnipresente, con repercusiones en todos los aspectos de la empresa y su modelo de negocio. La visión equilibrada que tienen los directores ejecutivos sobre la innovación, el riesgo y las necesidades de las partes interesadas los coloca en una posición sólida para promover una IA responsable —y para ayudar a sus pares en la alta dirección a hacer lo mismo—.

Tres medidas para los ejecutivos de alto nivel: escuchar, actuar y comunicarse 

¿Qué pueden hacer los ejecutivos de alto nivel para actuar en función de estos hallazgos? Sugerimos tres medidas clave:

1. Escuchar: Hacer que todo el equipo directivo conozca la voz del cliente
   
   Los consumidores tienen grandes inquietudes respecto al uso responsable de la inteligencia artificial y al cumplimiento de estos principios por parte de las empresas. Los líderes de la alta dirección deben desarrollar una mayor conciencia de las inquietudes y preferencias de sus clientes. Es fundamental destacar que esto incluye no solo a los líderes con funciones definidas orientadas al mercado, como el director ejecutivo (CEO) o el director de mercadotecnia (CMO), sino también a aquellos que tradicionalmente han desempeñado funciones más bien administrativas, como los directores de tecnología (CTO) y los directores de información (CIO).
   
   Esto puede suceder de varias maneras. Organiza oportunidades para establecer vínculos entre los altos directivos, de modo que los líderes que no están en contacto directo con los clientes puedan aprender de los ejecutivos que sí lo están. Mejor aún, asigna a ejecutivos como los directores de información (CIO), los directores de tecnología (CTO) y los directores de riesgos (CRO) a puestos de contacto directo con los clientes. Muestra a tus empleados los comentarios de los clientes y las encuestas. Haz que participen en grupos de discusión. Siempre que sea posible, colócalos directamente en el entorno del cliente; por ejemplo, estableciendo como requisito obligatorio que todos los líderes de alto nivel de las empresas del sector de la salud pasen unos días al año interactuando con los pacientes en un hospital o una clínica.
   
   
2. Acción: Integrar la IA responsable en todo el proceso de desarrollo
   
   La IA responsable debe formar parte de todo el proceso de desarrollo e innovación de la IA, desde la fase inicial de ideación hasta la implementación. Los diseñadores de tecnología ya utilizan prácticas como el diseño centrado en las personas y las pruebas A/B para optimizar la experiencia del usuario. Aprovecha estas mejores prácticas para que el «diseño de IA responsable y centrado en las personas» se convierta en un elemento integral de su innovación en IA de principio a fin. Ve más allá de los requisitos normativos para desarrollar enfoques sólidos que aborden los riesgos clave y las inquietudes de los clientes que plantean sus aplicaciones y casos de uso de IA.
   
   Los modelos de IA más recientes, como los de tipo autónomo, ya están disponibles. Otros vendrán después, y la historia reciente sugiere que podrían llegar antes de lo que se supone. Es importante comprender cómo estos modelos emergentes generarán nuevos riesgos y desafíos en materia de gobernanza de la IA, y comenzar a identificar formas de abordarlos desde ahora.
   
   Actualiza continuamente tus conocimientos y los de tus equipos —ya sea mediante capacitación interna, asistiendo a conferencias del sector o colaborando con expertos externos— para mantenerte a la vanguardia frente a los riesgos emergentes y cada vez mayores a medida que estas tecnologías siguen avanzando.
   
   
3. Comunicar: Da a conocer sus prácticas responsables en materia de IA
   
   La IA responsable es más que un simple ejercicio de gestión de riesgos o de cumplimiento normativo. Los datos indican que puede constituir un diferenciador competitivo. Los consumidores tienen preocupaciones reales respecto a la IA, y si no confían en sus sistemas, no los utilizarán —lo que, en última instancia, afectará negativamente a los ingresos de las empresas si no se aborda el tema—.
   
   Sin embargo, esto también sugiere una oportunidad de mercado. Ante la falta de información transparente sobre cómo las empresas están abordando sus inquietudes, los consumidores perciben a las empresas de manera uniforme y sin diferencias. Al tomar la iniciativa en materia de IA responsable y convertirla en un elemento central de su marca y su mensaje, puede destacarse ante sus clientes actuales y potenciales, y posicionarse por delante de la competencia.
   

Resumen

Para obtener una ventaja competitiva, los ejecutivos de alto nivel deben dar prioridad a las inquietudes de los clientes, integrar la IA responsable en todo el ciclo de desarrollo y comunicar cómo se mitigan los riesgos relacionados con la IA. Es fundamental comprender las opiniones de los consumidores e integrar una IA responsable en cada etapa del proceso de innovación. Este enfoque ayudará a las empresas a generar confianza en sus aplicaciones de IA, garantizando que se ajusten a las expectativas de los consumidores y mitiguen los riesgos asociados con las tecnologías emergentes de inteligencia artificial. De esta manera, las organizaciones pueden posicionarse como líderes en materia de IA responsable, al tiempo que generan valor a largo plazo.