Comment une société biopharmaceutique mondiale est devenue un leader de l’IA éthique

L’intelligence artificielle (IA) s’est imposée comme un agent clé de la transformation, créant des possibilités pour une meilleure compréhension et une plus grande efficacité dans tous les secteurs d’activité. La biopharmaceutique ne fait pas exception

Notre client, une société biopharmaceutique internationale, avait précédemment mené un audit interne sur l’IA afin d’évaluer la maturité de ses processus dans ce domaine émergent, ce qui avait permis de détecter un certain nombre de lacunes. La plus pressante concernait l’absence d’un cadre de gouvernance de l’IA.

La société a compris qu’il serait essentiel de combler cette lacune pour atteindre une certaine maturité le plus tôt possible, ce qui lui permettrait de tirer parti des possibilités de l’IA et d’atténuer avec succès les risques dans les domaines technique, social et éthique , y compris les prises de décision partiales et les violations de la vie privée.

Notre client a par la suite élaboré un cadre complet de gouvernance de l’IA qui englobe les principes de l’IA responsable tels que la transparence, l’équité et l’approche centrée sur les gens.

« Nous avons la responsabilité collective de gérer les risques liés à l’IA. Nos principes éthiques en matière d’IA sont un élément important de notre stratégie de gestion des risques liés à l’IA et contribuent à maximiser les avantages de l’IA », explique le chef de l’information de la société biopharmaceutique.

Cependant, la direction a voulu s’assurer qu’elle allait dans la bonne direction et s’est mise à la recherche d’un partenaire indépendant.

Notre examen a révélé que la société biopharmaceutique ne gérait pas toujours les risques liés à l’IA propres à certains projets conformément à ses principes d’IA responsable. « L’audit d’EY a mis en évidence un certain nombre de lacunes dans notre approche, nous permettant ainsi de définir des exigences minimales pour les équipes professionnelles travaillant avec l’IA, ce à quoi nous nous employions déjà », déclare le responsable de la gouvernance de l’IA de la société biopharmaceutique.

Lorsque la société biopharmaceutique a démarré ses activités il y a quelques années, la gouvernance de l’IA était un domaine largement inexploré dans le secteur, offrant peu d’exemples à suivre.

Qui plus est, à l’époque, l’Union européenne (UE) s’apprêtait à dévoiler son très attendu projet de réglementation sur l’IA. Lorsque la réglementation aura été promulguée, la loi sur l’intelligence artificielle (IA) de l’UE qui en découlera, soit la première réglementation exhaustive au monde en matière d’IA, confiera la gouvernance de la technologie au conseil d’administration.

Diverses autres grandes nations et organisations internationales ont également élaboré leurs propres approches réglementaires en matière d’IA, auxquelles les biopharmaceutiques pourraient devoir se conformer.  

En fin de compte, le client devait savoir comment faire en sorte que son IA d’aujourd’hui soit prête pour la réglementation de demain. 

Faisant partie d’un ensemble plus vaste d’outils, de techniques et de programmes conçus par EY pour contribuer à la mise au point et à l’utilisation judicieuses de l’IA, le cadre mondial de l’IA responsable est un ensemble souple de principes directeurs et de mesures pratiques.

Les équipes multidisciplinaires d’EY, composées de spécialistes de l’éthique numérique, de professionnels de la gestion des risques liés aux TI, de scientifiques des données et de ressources spécialisées, ont mis à profit le cadre mondial de l’IA responsable pour évaluer les principes de l’IA responsable de la société biopharmaceutique, ainsi que la manière dont ils ont été déployés et compris dans l’ensemble la société.

Nous avons superposé le cadre mondial de l’IA responsable au modèle que le client avait déjà créé, en interrogeant les principales parties prenantes et en examinant la documentation pertinente.

« Nous avons consacré du temps à la compréhension de l’environnement du client, et notre expérience en gouvernance de l’IA nous a permis de poser les bonnes questions au bon moment », explique Catriona Campbell, directrice, Technologie et innovation des clients, EY R.‑U. et Irlande 

Nous avons évalué dans quelle mesure la société avait réussi à atténuer les risques liés à l’IA tout au long de son cycle de vie, de l’identification des problèmes à la modélisation, au déploiement et à la surveillance continue.

Afin d’établir si le client avait élaboré et mis en œuvre l’IA conformément à ses principes d’IA responsable, nous avons également évalué un échantillon de projets importants en matière d’IA, notamment la prévision, le suivi des événements indésirables et la détection précoce des maladies.

Notre examen a révélé que la société biopharmaceutique ne gérait pas toujours les risques liés à l’IA propres à certains projets conformément à ses principes d’IA responsable. « L’audit d’EY a mis en évidence un certain nombre de lacunes dans notre approche, nous permettant ainsi de définir des exigences minimales pour les équipes professionnelles travaillant avec l’IA, ce à quoi nous nous employions déjà », déclare le responsable de la gouvernance de l’IA de la société biopharmaceutique.

Le client était l’un des premiers à adopter la gestion des risques liés à l’IA dans son secteur, mais nous l’avons rassuré sur son approche et avons mis en évidence les possibilités d’amélioration.

« Le partenariat avec EY a fourni une validation externe à notre approche et nous a donné un aperçu précieux des domaines sur lesquels nous devons nous concentrer davantage », explique le chef de l’information de la société biopharmaceutique.

Notre examen détaillé a aidé la société biopharmaceutique à comprendre la nécessité d’apporter des changements majeurs à sa façon d’aborder la gouvernance de l’IA. Ces mesures comprennent une meilleure évaluation des risques liés à l’IA des tiers et un nouvel inventaire central de l’IA , ce dernier étant essentiel à la gestion des risques liés à l’IA et à la mise en œuvre de la conformité réglementaire.

La société a réalisé qu’il n’existait pas de méthode unique de gouvernance de l’IA, ce qui rend le défi encore plus grand pour certaines entreprises. Par exemple, un nombre croissant d’entreprises regroupées disposant d’une autonomie décentralisée doivent trouver un moyen d’assurer la cohérence entre plusieurs unités sans qu’une autorité unique ne soit responsable de la gouvernance de l’IA, tandis que les entreprises disposant d’un contrôle plus centralisé devront penser différemment.

Il est également apparu clairement que, si un examen indépendant révèle que la gouvernance de l’IA d’une organisation n’est pas adaptée à sa raison d’être, la direction devrait être prête à apporter les changements structurels nécessaires ou à mettre en place un conseil de gouvernance pour créer une meilleure correspondance.

Il est essentiel que cet examen puisse être adapté à la structure organisationnelle, à la direction et aux responsabilités de la société, lesquelles sont très variées. « Les équipes d’EY ont pu nous aider à définir la forme que devrait prendre un audit, en associant ce que nous faisions à leur cadre mondial de l’IA responsable et en opérant des rapprochements de façon efficace », explique le responsable de la recherche et du développement en matière d’IA de la société biopharmaceutique.

L’éthique en matière d’IA est encore embryonnaire, et il est donc logique que de nombreuses entreprises n’aient pas les capacités internes requises pour entreprendre ou poursuivre leur parcours.

Le soutien d’un partenaire indépendant ayant la capacité d’adapter le processus d’audit ajoute de la valeur en aidant une organisation à élaborer des processus de gouvernance de l’IA appropriés pour son entreprise , ce qui augmente la probabilité de conformité réglementaire.

Cela permettra à la direction de protéger les parties prenantes, y compris le public, contre les risques liés à l’IA , en gardant les êtres humains au centre de la transformation.