Construyendo confianza mediante las auditorías en un mundo impulsado por la inteligencia artificial

Un mundo impulsado por la IA requiere un enfoque integral de los servicios de auditoría, construyendo una base de confianza y transparencia.

En resumen

• La inteligencia artificial está cambiando las reglas del juego en auditoría, ampliando la necesidad de abordar el riesgo y la transparencia en la toma de decisiones.
• La gobernanza, la imparcialidad, las fuentes de datos y la seguridad son puntos de enfoque críticos para los nuevos servicios de auditoría en torno a la tecnología de inteligencia artificial.
• Las prácticas sólidas de auditoría son fundamentales para generar confianza en la IA, permitiendo a las empresas obtener beneficios y mitigar riesgos.

La inteligencia artificial (IA) está llamada a tener un impacto transformador en la profesión contable. Los líderes y profesionales ven oportunidades, pero también desafíos, mientras evalúan programas piloto, experimentan con casos de uso de menor riesgo y calculan el retorno potencial. Desde el análisis automatizado de transacciones hasta la evaluación de riesgos impulsada por inteligencia artificial; los requisitos de eficiencia y precisión son significativos. Las herramientas emergentes de IA agéntica prometen automatizar por completo las tareas rutinarias, con la supervisión y la gobernanza humana adecuadas. Sin embargo, los mismos sistemas que prometen agilizar los procesos contables y de auditoría también introducen nuevos riesgos.

El éxito en este nuevo paradigma requiere nuevos servicios que ayuden a brindar transparencia y verificación independiente. El entorno regulatorio de la IA no es claro en áreas como el control interno sobre la información financiera, lo que genera cierta cautela en su implementación. La supervisión regulatoria y las expectativas públicas impulsarán la demanda de servicios sólidos de auditoría relacionados con la IA. En otras palabras, existe una necesidad creciente de auditorías sobre las mismas tecnologías que están cambiando a las auditorías.

Monitoreo de sistemas de IA existentes

Para los sistemas de IA existentes, las auditorías deben centrarse en un monitoreo continuo que ayude a validar que estos continúan desempeñándose según lo previsto. Esto incluye evaluar la fiabilidad de las fuentes de datos, monitorizar el desplazamiento (drift) y realizar evaluaciones periódicas del desempeño del modelo. Aprovechar las competencias centrales de los profesionales de auditorías en documentación de procesos, pruebas de controles internos y verificación basada en evidencia es esencial para mantener la integridad y efectividad de los sistemas de IA a lo largo del tiempo. Las partes interesadas demandarán una supervisión continua para ayudar a salvaguardar que las estructuras de IA se adhieran a los estándares de cumplimiento y a los parámetros operativos.

Gobernanza y linaje de datos

Los datos financieros representan una oportunidad aún no explotada para aportar un mayor valor en tiempo real. Los reguladores y las partes interesadas quieren saber dónde se originan los datos críticos, cómo se transforman y si son precisos y completos. Un dictamen independiente que valide la trazabilidad de los datos a través de los sistemas de una organización es especialmente importante para los datos utilizados en la información financiera o en las divulgaciones regulatorias.

Auditorías algorítmicas

Las metodologías aplicadas pueden ayudar a evaluar objetivamente si los sistemas de IA producen resultados fiables, ya sea por causas asociadas a los datos o al modelo, y proporcionar un marco para que la dirección despliegue la IA con confianza.

Procesos y sistemas mejorados con IA

A medida que los sistemas de manufactura, logística e infraestructura comienzan a integrarse con IA física y tecnologías relacionadas, se requerirá que los profesionales de auditoría evalúen el papel de la IA en los procesos existentes, los riesgos que introduce y verifiquen la precisión e integridad de los datos y los resultados que produce la IA a partir de esa integración.

Auditoría de programas de ciberseguridad

Los repositorios de datos de IA, que pueden incluir datos confidenciales y personales, representan un objetivo principal para los hackers, y la introducción de plataformas o fuentes de datos de IA de terceros crea nuevas áreas de exposición. Al mismo tiempo, los hackers están aprovechando la IA para ataques más sofisticados, desplegando IA para aprender e iterar, encontrando el momento y el método adecuados para ejecutar. Esto eleva las exigencias sobre cómo deben protegerse las empresas y requiere un alcance y un rigor ampliados de los servicios de auditoría.

IA agéntica

La IA agéntica eleva las apuestas tanto para el potencial de la inteligencia artificial como para la necesidad de auditar su uso. Si bien la IA exige comprender la fuente de los datos y una toma de decisiones transparente, la IA agéntica introduce autonomía en la toma de decisiones; en esencia, empleados digitales facultados con herramientas para ejecutar procesos de negocio. Por ejemplo, un LLM podría proporcionar información incorrecta que lleve a una persona a tomar una mala decisión, mientras que un agente de IA estará facultado para tomar la decisión sin intervención humana. Las auditorías requieren no solo un enfoque para considerar lo que podría ocurrir, sino un marco en tiempo real para monitorizar cómo opera esta fuerza laboral digital, estableciendo barreras de protección humanas o de TI para un modelo operativo autónomo y cómo prevenir de antemano una mala decisión.

Conclusiones

En un mundo impulsado por la inteligencia artificial, el papel de la auditoría está evolucionando para abordar las complejidades que introducen las nuevas tecnologías. A medida que las organizaciones confían cada vez más en la IA para funciones críticas, la demanda de verificación independiente de la gobernanza, el cumplimiento y la seguridad de los sistemas de IA se vuelve primordial. Mediante el uso de metodologías avanzadas, se pueden monitorear los sistemas de IA existentes y se puede validar y mejorar la gobernanza de datos. En última instancia, las prácticas sólidas de auditoría fomentarán la confianza en las tecnologías de IA, permitiendo a las organizaciones aprovechar todo su potencial mientras mitigan los riesgos asociados.

Este artículo es una traducción del original: Building trust through assurance in an AI-driven world, publicado en el sitio de EY en Estados Unidos. Sus autores son Richard Jackson, EY Americas Assurance Chief Technology Officer; EY Global and Americas Assurance AI Leader; y David Wood, Glenn D. Ardis Professor, School of Accountancy, Marriott School of Business, Brigham Young University, United States.