Cap sur L’intelligence artificielle

Dans le but d’aider les entreprises implantées sur notre Vieux Continent et limiter toute dérive, la Commission européenne a récemment publié un livre blanc, afin d’asseoir les bases d’une Intelligence Artificielle (IA) européenne « digne de confiance »

Dans le but d’aider les entreprises implantées sur notre Vieux Continent et limiter toute dérive, la Commission européenne a récemment publié un livre blanc, afin d’asseoir les bases d’une Intelligence Artificielle (IA) européenne « digne de confiance » reposant sur trois grands principes :

-        Légitimité, en respectant toutes lois et régulations en vigueur

-        Robustesse technique et sociale

-        Ethique, en respectant les principes et valeurs de l’Union européenne.

La gouvernance, clef de voûte d’une IA performante

L’engouement grandissant des entreprises pour l’IA a fait que bon nombre de projets ont été réalisés sans gouvernance propre. On estime qu’en 2020 85% des systèmes utilisant de l’intelligence artificielle produiront des résultats erronés.

Ainsi, pour s’en prévenir et optimiser les bénéfices de l’IA, cinq points sont à contrôler tout au long de la vie du développement d’une IA :

-        Le contrôle des biais, afin de prévenir l’intégration de préjugés et inexactitudes pouvant entraîner des algorithmes sur des hypothèses erronées,

-        La résilience, pour se protéger contre les accès non autorisés, la corruption et/ou des attaques visant l’IA,

-        L’explicabilité, pour avoir la capacité de comprendre comment les modèles ont été entrainés et quels sont les critères impactant les décisions,

-        La transparence, afin de permettre à l’utilisateur de pouvoir sélectionner son niveau d’interaction et d’avoir son consentement sur les différentes données recueillies,                  

-        La performance, pour des résultats d’IA atteignant la précision, la cohérence et la réactivité souhaitées.

Comment mettre en place cette gouvernance ?

EY recommande aux entreprises ces six pratiques d’excellence afin de mettre en place une gouvernance robuste répondant à ces nouveaux standards:

-        Un conseil interne de l’éthique IA

Un comité consultatif multidisciplinaire fournissant des conseils et des orientations indépendants sur les considérations éthiques.

-        Une conceptualisation standardisée

Des politiques et normes de conception de l’IA, prenant en compte le développement, le code de conduite et les principes de conception.

-        Un inventaire et une évaluation d’impact de chaque modèle

Un inventaire de tous les algorithmes avec un descriptif fonctionnel et technique de l’IA. Chaque algorithme doit avoir une évaluation d'impact pour connaître les risques liés à son développement et son utilisation.

-        Un outil de validation

Une solution permettant de suivre le fonctionnement des algorithmes et de s’assurer de leur performance optimale, ainsi que la production de résultats précis, justes et impartiaux.

-        Sensibilisation à l’IA

Eduquer les dirigeants et développeurs d'IA sur les considérations et responsabilités juridiques et éthiques liées au développement d'IA.

-        Des audits indépendants

Certifier les politiques et normes imposées à vos modèles et attester de l'efficacité de la gouvernance et des contrôles mis en place.

Le potentiel de l’AI à transformer notre monde et les entreprises est gigantesque. Cependant, les risques en sont complexes et évoluent rapidement. Intégrer les principes de gouvernance, de transparence et de confiance au plus tôt permet d’en tirer les bénéfices bien plus en amont.