La inteligencia artificial se ha consolidado como un elemento recurrente en las agendas de prácticamente todos los foros especializados en materia de cumplimiento. No obstante, resulta oportuno reflexionar sobre el papel efectivo que la Función de Cumplimiento está desempeñando actualmente en las organizaciones en relación con esta materia, que, con carácter general, tiende a circunscribirse al desarrollo de códigos, políticas o principios de uso ético de la inteligencia artificial.
Esta aproximación, si bien necesaria, podría resultar insuficiente para abordar de forma integral los riesgos asociados a la adopción y uso de sistemas de inteligencia artificial, lo que explicaría la percepción creciente de la necesidad de una mayor y más activa involucración de la Función de Cumplimiento en este ámbito.
Esta mayor involucración podría justificarse por la concurrencia de tres circunstancias principales, directamente vinculadas al rol que la Función de Cumplimiento está llamada a desempeñar en este ámbito.
- En primer lugar, el uso de herramientas de inteligencia artificial está alterando de forma significativa el perfil de exposición a riesgos tradicionalmente vinculados al ámbito del cumplimiento, como los riesgos de integridad, privacidad, discriminación, toma de decisiones automatizadas o control interno.
- En segundo lugar, la entrada en vigor del Reglamento Europeo de Inteligencia Artificial introduce un marco normativo específico y exigente que, por su propia naturaleza, puede integrarse dentro del ámbito del cumplimiento “normativo”. En particular, el reglamento impone obligaciones organizativas y de control destinadas a asegurar su cumplimiento, acompañadas de un régimen sancionador especialmente relevante, con multas que pueden alcanzar hasta el 7 % de la cifra de negocio anual consolidada.
- En tercer lugar, el eventual despliegue por parte de las organizaciones de un sistema estructurado de cumplimiento en materia de inteligencia artificial —que incluya la identificación y evaluación de riesgos o casos de uso, la definición y evaluación de medidas de mitigación, el establecimiento de una estructura de gobernanza y responsabilidades, así como mecanismos de supervisión periódica, trazable y orientada a la mejora continua— podría razonablemente recaer en la Función de Cumplimiento. Dicha función cuenta ya con experiencia contrastada en el diseño, supervisión y mantenimiento de sistemas de cumplimiento complejos y transversales, como el sistema de cumplimiento penal.
En este contexto, las organizaciones deberán plantearse la idoneidad de desplegar un sistema de estas características que permita no solo garantizar un uso ético de la inteligencia artificial, sino también asegurar el cumplimiento efectivo de los requerimientos regulatorios aplicables, minimizando así el riesgo de sanciones o impactos significativos para la organización.
De forma complementaria, resulta relevante precisar que el despliegue de sistemas de gestión de cumplimiento en materia de inteligencia artificial no exige, necesariamente, un conocimiento técnico especializado en dicha tecnología por parte de la Función de Cumplimiento. En este sentido, el valor añadido de esta función no radica en el dominio técnico de los modelos o herramientas de inteligencia artificial, sino en su conocimiento metodológico y en los criterios que permiten diseñar, articular y supervisar sistemas de cumplimiento complejos, transversales y basados en riesgos.
Así, la aportación esencial de la Función de Cumplimiento se centra en la definición del marco metodológico del sistema —identificación y evaluación de riesgos o casos de uso, diseño de controles, establecimiento de una estructura de gobernanza, asignación clara de roles y responsabilidades, así como mecanismos de supervisión, trazabilidad y mejora continua—, todo ello bajo principios de independencia, autonomía y autoridad del responsable del sistema.
Por el contrario, el conocimiento técnico específico en materia de inteligencia artificial deberá residir, de forma natural, en aquellas áreas de la organización que desarrollan, implantan o utilizan esta tecnología, correspondiendo a la Función de Cumplimiento coordinarse con dichas áreas desde una posición de supervisión independiente, sin asumir funciones operativas ni técnicas que podrían comprometer su independencia.