Dans le but d’aider les entreprises implantées sur notre Vieux Continent et limiter toute dérive, la Commission européenne a récemment publié un livre blanc, afin d’asseoir les bases d’une Intelligence Artificielle (IA) européenne « digne de confiance »
Dans le but d’aider les entreprises implantées sur notre Vieux Continent et limiter toute dérive, la Commission européenne a récemment publié un livre blanc, afin d’asseoir les bases d’une Intelligence Artificielle (IA) européenne « digne de confiance » reposant sur trois grands principes :
- Légitimité, en respectant toutes lois et régulations en vigueur
- Robustesse technique et sociale
- Ethique, en respectant les principes et valeurs de l’Union européenne.
La gouvernance, clef de voûte d’une IA performante
L’engouement grandissant des entreprises pour l’IA a fait que bon nombre de projets ont été réalisés sans gouvernance propre. On estime qu’en 2020 85% des systèmes utilisant de l’intelligence artificielle produiront des résultats erronés.
Ainsi, pour s’en prévenir et optimiser les bénéfices de l’IA, cinq points sont à contrôler tout au long de la vie du développement d’une IA :
- Le contrôle des biais, afin de prévenir l’intégration de préjugés et inexactitudes pouvant entraîner des algorithmes sur des hypothèses erronées,
- La résilience, pour se protéger contre les accès non autorisés, la corruption et/ou des attaques visant l’IA,
- L’explicabilité, pour avoir la capacité de comprendre comment les modèles ont été entrainés et quels sont les critères impactant les décisions,
- La transparence, afin de permettre à l’utilisateur de pouvoir sélectionner son niveau d’interaction et d’avoir son consentement sur les différentes données recueillies,
- La performance, pour des résultats d’IA atteignant la précision, la cohérence et la réactivité souhaitées.