Cómo las evaluaciones de IA pueden aumentar la confianza en la IA

Comprender el panorama de la evaluación de la IA

Hasta enero de 2025, los responsables políticos de casi 70 países introdujeron más de mil iniciativas de política pública en materia de IA, incluyendo legislación, reglamentación, iniciativas voluntarias y acuerdos, según la Organización para la Cooperación y el Desarrollo Económico (OCDE). Muchas de estas iniciativas incluyen varios tipos de evaluaciones de la IA.  Estas evaluaciones pueden agrupar a grandes rasgos en tres categorías:
 

1. Evaluaciones de gobernanza, que determinan si existen políticas, procesos y personal adecuados de gobernanza corporativa interna para gestionar un sistema de IA, incluidos los riesgos, la idoneidad y la fiabilidad de dicho sistema.
   
   
2. Evaluaciones de conformidad, que determinan si el sistema de IA de una organización cumple las leyes, reglamentos, normas u otros requisitos políticos pertinentes.
   
   
3. Evaluaciones de rendimiento, que miden la calidad del rendimiento de las funciones principales de un sistema de IA, como la precisión, la no discriminación y la fiabilidad. A menudo emplean métricas cuantitativas para evaluar aspectos específicos del sistema de IA.
    

Incluso con estos tres tipos de evaluaciones emergentes, puede haber variaciones significativas en la calidad de la evaluación. Para subsanar estas deficiencias, recomendamos que todas las evaluaciones de la IA incluyan las siguientes características:
 

• Especificidad sobre lo que se va a evaluar y por qué: Un marco eficaz de evaluación de la IA tendrá un objetivo empresarial o político, un alcance y un tema claramente especificados y articulados.
  
  
• Metodología clara: Las metodologías y los criterios adecuados determinan cómo se evalúa una materia, y es esencial que las evaluaciones de IA similares empleen enfoques claramente definidos y coherentes. Algunas evaluaciones, por ejemplo, pueden incluir opiniones o conclusiones explícitas, mientras que otras pueden limitar a ofrecer un resumen de los procedimientos realizados. La coherencia, combinada con una terminología clara, permite a los usuarios comparar los resultados de la evaluación y comprender cómo se alcanzaron.
  
  
• Cualificaciones adecuadas de quienes proporcionan la evaluación: La elección del proveedor de la evaluación es crucial e influye directamente en la credibilidad, fiabilidad e integridad general del proceso. Las consideraciones clave para seleccionar a los proveedores de evaluación incluyen la competencia y las cualificaciones, la objetividad y la responsabilidad profesional.

Próximos pasos para los líderes empresariales

• Considerar el papel que pueden desempeñar las evaluaciones de la IA en la mejora del gobierno corporativo y la gestión de riesgos. Las evaluaciones de la IA pueden ayudar a los líderes empresariales a identificar y gestionar los riesgos en evolución asociados a sus sistemas de IA y ayudar a indicar si los sistemas de IA funcionan según lo previsto.
  
  
• Evaluar la posibilidad —incluso en ausencia de obligaciones reglamentarias— de realizar evaluaciones voluntarias para generar confianza en los sistemas de IA entre los empleados, los clientes y stakeholders importantes. La dinámica del mercado, la demanda de los inversionista o las consideraciones de gobernanza interna pueden hacer aconsejable una evaluación voluntaria de la IA para generar confianza en los sistemas de IA de una compañía. Además, si algunos sistemas de IA están sujetos a obligaciones reglamentarias, los líderes empresariales pueden optar por emplear evaluaciones para ayudar a medir y monitorear el cumplimiento.
  
  
• Cuando se empleen evaluaciones voluntarias, determinar la evaluación más apropiada. Los líderes empresariales querrán determinar si deben llevar a cabo una evaluación de la gobernanza, el cumplimiento y el rendimiento, y si debe ser realizada internamente o por un tercero.