Cómo Mott MacDonald está generando confianza mediante el uso responsable de la IA

Mott MacDonald es una empresa de consultoría en ingeniería, desarrollo y gestión con sede en el Reino Unido, que cuenta con más de 20.000 empleados en más de 50 países. Se encarga de planificar, diseñar, construir y mantener los sistemas de transporte, energía, agua, edificios y la infraestructura en general que son parte integral de la vida cotidiana de las personas. Mott MacDonald (“el Grupo”) aprovecha su experiencia para superar desafíos complejos, en beneficio de los clientes y las comunidades a las que presta servicio, con la excelencia digital y técnica —incluida la IA— como eje central de su labor.

Como una de las empresas más grandes de su tipo que es propiedad exclusiva de sus empleados, Mott MacDonald es una organización guiada por valores que opera en un ámbito altamente regulado, en el que la salud, la seguridad y el bienestar son fundamentales. Están comprometidos con el uso responsable de la IA, asegurándose de que su implementación sea ética, transparente y sostenible. Al dar prioridad a las prácticas éticas en materia de IA y promover la transparencia de la IA, se esfuerzan por fomentar la confianza y la rendición de cuentas en sus sistemas de IA.

Mott MacDonald reconoció la importancia de poder identificar de manera confiable —y responder a— los riesgos relacionados con la IA para cumplir con su propósito, salvaguardar su reputación y, en última instancia, ayudar a sus clientes a aprovechar el potencial de la tecnología de vanguardia en la ejecución de los proyectos de infraestructura más complejos del mundo.

El Grupo se puso en contacto con los equipos de EY para reforzar este compromiso con una IA responsable y para apoyar el cumplimiento de las nuevas regulaciones en materia de IA, incluida la histórica Ley de Inteligencia Artificial de la UE.¹ Dicha ley está diseñada para proteger a los ciudadanos de la UE, garantizando que la IA que les afecta sea legal, ética y sólida. Al igual que el Reglamento General de Protección de Datos (RGPD), tiene alcance extraterritorial y prevé multas sustanciales: hasta el 7 % de los ingresos anuales globales de una empresa o 35 millones de euros, lo que sea mayor.

Esto marca la transición de la IA responsable, pasando de ser una «opción ética» a un cumplimiento obligatorio, lo que pone de relieve la visión de futuro de Mott MacDonald al prepararse de manera proactiva para la regulación de la IA.

Los equipos de EY abogan por un enfoque equilibrado para hacer frente al desafío que plantea la gobernanza de la inteligencia artificial. La innovación, si no va acompañada de medidas de protección eficaces, puede suponer riesgos para la reputación, legales y operativos para las organizaciones. Sin embargo, una regulación excesiva de la IA puede frenar la innovación y afectar negativamente a la prestación de servicios a los clientes. Una regulación excesiva de la tecnología, en particular de tecnologías diferenciadoras como la IA, puede mermar la competitividad en el mercado.

Mott MacDonald contrató al equipo de IA Responsable de EY Reino Unido para que le ayudara a afrontar estos desafíos, trabajando en colaboración para innovar de manera segura y responsable con la IA, a un ritmo y a una escala adecuados.

Catriona Campbell, EY UK&I Client Technology and Innovation Officer afirma: "Creemos que la IA responsable no se trata solo de cumplir con las normas, sino de generar valor. Nuestra colaboración con Mott MacDonald es un ejemplo de esta filosofía y pone de relieve nuestro compromiso de ayudar a los clientes a sortear las complejidades de la gobernanza de la IA, al tiempo que impulsamos resultados de gran impacto."

Como alternativa a la imposición de una política general de gobernanza de la IA en todas las líneas de negocio de Mott MacDonald, los equipos de EY asesoraron sobre un enfoque fundamentado, flexible y basado en el riesgo. Reconocieron que los requisitos de gobernanza varían según cada sistema de IA o oferta para el cliente, dependiendo del nivel de riesgo que representen. La implementación de protocolos personalizados, alineados con los principios generales y con la propensión al riesgo del Grupo, contribuye a adoptar un enfoque responsable y ágil en materia de innovación en IA.

Los equipos de Mott MacDonald y EY se embarcaron juntos en un proceso de varias fases para mejorar su enfoque en materia de gobernanza de la IA, lo que posicionó a la organización como líder del sector en el ámbito de la IA responsable.

• Definición de IA: establecimos una definición de IA válida para toda la organización y elaboramos documentación orientativa adaptada a los distintos grupos de partes interesadas (por ejemplo, personal técnico frente a personal no técnico). Una articulación clara de lo que se considera IA y lo que no lo es constituye un primer paso esencial para determinar qué activos tecnológicos deben estar sujetos a los requisitos de gobernanza de la IA, ya que las definiciones pueden estar sujetas a interpretaciones individuales.
• Definición de la tolerancia al riesgo en materia de IA: Ayudamos a definir su tolerancia al riesgo en materia de IA, es decir, el nivel de riesgo que el Grupo está dispuesto a tolerar en relación con sus objetivos de innovación en IA. Este trabajo comenzó por identificar cómo el riesgo relacionado con la IA se relacionaba con otras áreas de riesgo que la organización ya había reconocido y estaba monitoreando como parte de su marco más amplio de gestión de riesgos. A partir de ahí, asesoramos a Mott MacDonald sobre la mejor manera de integrar y aplicar su apetito de riesgo en materia de IA a gran escala; por ejemplo, mediante la identificación de indicadores clave de riesgo en 10 aspectos del marco de riesgo de Mott MacDonald —entre los que se incluyen la sustentabilidad, el talento y la ciberseguridad— con el fin de medir de manera práctica el cumplimiento del apetito de riesgo a lo largo del tiempo.
• Elaboración de una política de IA responsable: los equipos de EY colaboraron con el jefe de Privacidad y Protección de Datos del Grupo para diseñar una política integral de IA responsable, en la que se define el compromiso organizacional de Mott MacDonald y se esbozan los principios y prácticas relacionados con el uso, el desarrollo, la adquisición y la implementación de una IA ética. Esta política constituye la piedra angular de la gobernanza de la IA, ya que ofrece directrices claras sobre equidad, transparencia, rendición de cuentas y cumplimiento de las regulaciones pertinentes en materia de IA y de los estándares de la industria.
• Diseño de un proceso de gestión de inventario: Diseñamos un proceso de gestión de inventario para que los equipos de Mott MacDonald puedan dar seguimiento y administrar sin problemas sus sistemas de IA y los activos subyacentes, tales como los modelos de IA —por ejemplo, GPT-4, un modelo avanzado de lenguaje basado en IA— y la regresión lineal, así como los conjuntos de datos. Este proceso contribuye a garantizar que los activos relacionados con la IA estén debidamente documentados y supervisados, a fin de facilitar una supervisión y un control óptimos de los sistemas de IA.
• Diseño de una metodología de evaluación de riesgos a la medida: desarrollamos una metodología de evaluación de riesgos a la medida para clasificar los sistemas de IA en función de su riesgo inherente, centrándonos tanto en la perspectiva comercial como en la regulatoria. Esta metodología permite al equipo evaluar y clasificar sistemáticamente los sistemas de IA, asegurándose de que los sistemas de mayor riesgo sean objeto de un escrutinio y una gobernanza adecuados, mientras que los sistemas de IA de menor riesgo puedan pasar a la fase de producción más rápidamente.

Unir a los equipos para lograr la excelencia en la gobernanza de la IA

La multidisciplinariedad es esencial para establecer un enfoque sólido en materia de gobernanza de la IA, dada la naturaleza transversal de los riesgos relacionados con la IA en ámbitos que van desde la ciberseguridad hasta la sustentabilidad y más allá. Sofía Ihsan, EY Global Responsible AI UK&I Leader, reflexiona: "La posición de nuestro equipo como asesor independiente fue fundamental para apoyar a Mott MacDonald, ya que aportamos nuestra amplia experiencia y objetividad".

El equipo de EY estaba integrado por científicos de datos, especialistas en ética digital, abogados y expertos en riesgos de TI. Naomi Bishop-Bunn, responsable de gobernanza de la IA del Grupo Mott MacDonald, señaló: "Esta diversidad de experiencias y perspectivas —que une los ámbitos técnico, ético y comercial— es lo que marcó la diferencia".

El diseño y la implementación de un marco sólido de gobernanza de la IA han posicionado a Mott MacDonald como una de las primeras empresas en adoptar la IA responsable dentro de su sector, lo que le ha permitido brindar beneficios tangibles a sus clientes, a su personal y a las comunidades a las que presta servicio.

"La participación proactiva del equipo de EY tuvo un impacto significativo en nuestra colaboración. Su disposición a mantener el contacto más allá de las reuniones programadas propició una relación productiva. Este apoyo fue fundamental para lograr que la documentación normativa se completara a tiempo y con un alto nivel de calidad", afirma James Alexander, jefe del Grupo de Privacidad y Protección de Datos de Mott MacDonald.

Entre las consecuencias de esto se encuentran:

1. Mejora de la gobernanza: La metodología de evaluación de riesgos desarrollada durante este proyecto ha mejorado la comprensión —y la clasificación— de Mott MacDonald respecto a los riesgos relacionados con la IA. Esto ha permitido a sus equipos dar prioridad a la gobernanza y, en consecuencia, optimizar el tiempo y los recursos para centrarse en los sistemas de IA que representan el mayor riesgo para su organización.
2. Preparación: Mott MacDonald está preparada para los cambios que traerán consigo la Ley de IA de la UE y la legislación similar en otras jurisdicciones. Están desarrollando de manera proactiva la madurez en materia de gobernanza de la IA, en consonancia con los cambios normativos y las mejores prácticas, lo que les permitirá innovar con mayor rapidez sin dejar de cumplir con las regulaciones futuras.
3. Fomentar la confianza de los clientes: El compromiso de Mott MacDonald con los principios de IA responsable que ha adoptado es fundamental para generar confianza, fortalecerla e impulsar un cambio transformador para sus clientes.
4. Una fuerza laboral empoderada: Este proyecto ha sido un catalizador del cambio en todas las regiones en las que opera Mott MacDonald, garantizando que tanto los equipos internos como los clientes disfruten de los beneficios sin encontrar ningún obstáculo.
5. Posición reforzada en el mercado: Al ser una de las primeras empresas de su sector en publicar una política de IA responsable,² Mott MacDonald no solo cumple con la normativa, sino que también contribuye a la transparencia y la rendición de cuentas en materia de IA. Esto está en consonancia con su reputación de ser innovadores y con visión de futuro, y promueve la adopción de prácticas similares en todo el sector, fomentando estándares éticos más elevados.

"El compromiso de Mott MacDonald con una IA responsable va más allá del simple cumplimiento normativo. Al publicar su política de IA, se aseguran de cumplir con las regulaciones y de mantenerse al día con los avances en el campo de la IA", explica Piers Clinton-Tarestad, UK&I Partner, Technology Risk, Ernst & Young LLP.

Este proyecto demuestra cómo el compromiso con una IA responsable, respaldado por políticas y marcos sólidos, es clave para aprovechar el poder transformador de la IA y facilitar el cumplimiento de las regulaciones emergentes. La trayectoria de Mott MacDonald es un indicio de que el futuro de las empresas competitivas radica en el equilibrio entre la innovación tecnológica y la integridad.