L’IA, un changement positif pour le monde ou un simple changement?

Par

Cathy Cobey

Leader mondiale, Services consultatifs, IA de confiance d’EY

Leader éclairée en matière de confiance dans le numérique. Défenseure de la présence des femmes dans le secteur de la technologie. Amatrice de bonne chère. Adepte des festivals de films. Avide de connaissances. Mère.

47 minutes de lecture 11 mars 2020
Sujets connexes Numérique Confiance

Avec l’intérêt grandissant pour l’IA, il nous faudra comprendre l’éthique, les risques et l’incidence du potentiel libéré.

L’impact de l’intelligence artificielle (IA) sur le portrait des mégadonnées avance à coups de sauts quantiques. Selon l’International Data Corporation (IDC), les revenus mondiaux des services d’analyse de mégadonnées et d’analyse commerciale passeront de 150,8 G$ US en 2017 à plus de 210 G$ US en 2020, soit un taux de croissance annuel composé de 11,9 %.1

Les grands ensembles de données et l’apprentissage profond, un sous-domaine de l’IA, sont récemment devenus les tendances technologiques en vogue parmi les géants de la technologie comme Google, Facebook, Amazon, IBM, Intel et Microsoft. Disposant de moyens considérables, ces géants investissent beaucoup dans l’acquisition de personnel et le développement de matériel et de logiciels propres à l’IA.

Cet intérêt accru pour l’IA, à son tour, entraînera une pléthore de nouveaux risques, et les nouveaux modèles prédictifs appelés à influencer la prise de décisions se logeront de plus en plus sous la responsabilité, pour la gestion du risque, du chef des finances ou du chef de la gestion du risque.

L’IA est omniprésente

L’internet des objets et l’IA sont intégrés dans les pratiques et processus d’affaires plus rapidement que jamais et sont appelés à causer de la disruption dans toutes les entreprises et toutes les industries. Nous connaissons déjà l’impact des notes de crédit sur les services financiers et de l’évaluation par les compagnies d’assurance du profil de risque des clients en fonction de leur historique de crédit ou de paiement. L’IA permettra de faire un pas de plus grâce à l’utilisation de données non structurées et à l’interaction avec les clients au moyen d’agents conversationnels (chatbot).

Alors que l’IA permet aux machines d’interagir encore plus intimement avec les clients, les spécialistes du marketing utilisent les données non seulement pour comprendre les tendances passées, mais aussi pour prédire des comportements futurs. L’analytique prédictive donne aux marques la possibilité d’automatiser les réponses de marketing dans toute interaction avec un client, comme des présentations en direct sur le web, des agents intelligents établissant des liens pour offrir des produits, des contenus et même des traitements médicaux personnalisés pour chaque client.

Selon Narrative Science2, environ 10 % des entreprises de services financiers font appel à l’IA pour être plus concurrentielles et pour trouver des occasions dans leurs données qu’elles auraient autrement manquées. Dans les banques et les caisses populaires, l’intégration de l’IA est encore en phase préliminaire. Ces organisations font appel à des méthodes d’IA comme l’analytique prédictive, les moteurs de recommandation, la reconnaissance vocale et la réponse intelligente. 

D’après les données d’un sondage de Narrative Science, 12 % des organisations n’utilisent pas l’IA, qu’elles jugent trop nouvelle et non testée, ou parce qu’elles doutent de sa sécurité. D’autres défis liés à l’IA — comme la peur de défaillance, le cloisonnement des ensembles de données et la conformité à la réglementation — ont aussi été cités. Le fait de ne pas avoir de responsable interne des tests des technologies émergentes représente aussi une lacune importante. Pourtant, seulement 6 % des organisations sondées pouvaient compter sur un leader de l’innovation ou sur un dirigeant chargé de tester de nouvelles idées ou de nouveaux processus. 

Ce n’est là que la pointe de l’iceberg. Des risques et des défis que nous n’avons même pas encore envisagés émergeront éventuellement.

En quoi l’IA représente un risque?

L’IA représente un risque parce que le développement de la technologie est plus rapide que notre capacité à bâtir les structures de gouvernance et de contrôle requises. Nous voyons évoluer des structures d’exploitation des modèles d’affaires dans lesquelles des formules mathématiques, ou algorithmes, automatisent la prise de décisions qui touchent directement et de façon importante la race humaine. Le développement de l’IA se passe mille fois plus vite que l’invention du chemin de fer. Nous avançons rapidement vers le moment où la race humaine ne pourra plus s’en passer. 

Du point de vue de l’éthique, sommes-nous prêts? Pouvons-nous gérer les risques? Comprenons-nous vraiment ce qui est sur le point d’être déchaîné? S’il le faut, pourrons-nous faire marche arrière?

Épisode 1 : Transparency of use (en anglais seulement)

Dans la première vidéo de cette série, Cindy Gordon et Cathy Cobey explorent l’ère numérique, à savoir qui a le dessus : le client qui crée des données ou les entreprises qui utilisent ces données? Cet épisode cible la gestion des données et la transparence de l’utilisation de l’IA.

Épisode 2 : AI governance and accountability (en anglais seulement)

Comment les fonctions de gouvernance peuvent-elles maintenir le rythme rapide du développement de l’IA? Qui devrait en être responsable? Écoutez Cathy Cobey et Cindy Gordon discuter de ces enjeux dans l’épisode 2 de la série Managing the Risks of AI.

Épisode 3 : Explainable AI (en anglais seulement)

Alors que l’IA ne peut elle-même expliquer son fonctionnement, lui accordez-vous une confiance aveugle? Dans cet épisode, nous analysons les rôles et responsabilités de la haute direction et du conseil d’administration à l’égard de l’IA.

Épisode 4 : Being AI ready (en anglais seulement)

Pourquoi les lacunes dans les connaissances des dirigeants ralentissent-elles le développement de l’IA? Dans cet épisode, nous nous entretenons de la gouvernance de l’IA, du rôle de l’éducation pour favoriser la redevabilité de l’IA, et de l’importance de la collaboration.

Épisode 5 : The impact of diversity in AI (en anglais seulement)

À quels défis doit faire face l’IA en matière de diversité? Quelles en sont les implications? Dans cet épisode, nous discutons de l’incidence de la diversité dans le développement de l’IA, y compris les domaines qui investissent actuellement dans l’IA, les répercussions du manque de femmes, et plus largement, du manque de diversité dans le développement de l’IA.

Épisode 6 : Gender bias in AI (en anglais seulement)

L’IA surpasse-t-elle l’humain lorsque vient le temps de prendre des décisions impartiales? Le dernier épisode porte sur l’incidence du manque de diversité parmi les programmeurs en IA et le manque de variété dans les ensembles de données actuels liés au développement de l’IA.

Les opinions exprimées par SalesChoice dans cette vidéo ne représentent pas nécessairement celles d’EY.

  • Produit en collaboration avec

    1 « Big Data and Business Analytics Revenues Forecast to Reach $150.8 Billion This Year, Led by Banking and Manufacturing Investments, According to IDC », site web de l’IDC, https://www.idc.com/getdoc.jsp?containerId=prUS42371417, consulté le 9 novembre 2017.

    2 « The Rise of AI in Financial Services - research brief », Narrative Science, 2017.

Résumé

Dans notre série de vidéos Managing the Risks of AI, Cindy Gordon, chef de la direction et fondatrice de SalesChoice, et Cathy Cobey, associée chez EY, discutent de la montée de l’IA et de ses impacts sur les décisions d’affaires au quotidien. La compréhension de Cindy Gordon des données et de l’analytique, et l’expérience de Cathy Cobey en gestion des risques technologiques sont au cœur d’une bonne discussion, à savoir qui aura le dessus en cette ère numérique : le client, l’organisation ou la machine. 

À propos de cet article

Par

Cathy Cobey

Leader mondiale, Services consultatifs, IA de confiance d’EY

Leader éclairée en matière de confiance dans le numérique. Défenseure de la présence des femmes dans le secteur de la technologie. Amatrice de bonne chère. Adepte des festivals de films. Avide de connaissances. Mère.

Sujets connexes Numérique Confiance