Gestion des risques de l’IA : série de vidéos

  • Partager

L’intérêt accru pour l’intelligence artificielle fait que les gens et les entreprises devront comprendre l’éthique, les risques et les impacts de ce qui sera déchaîné

L’impact de l’intelligence artificielle (IA) sur le portrait des mégadonnées avance à coups de sauts quantiques. Selon l’International Data Corporation (IDC), les revenus mondiaux des services d’analyse de mégadonnées et d’analyse commerciale passeront de 150,8 G$ US en 2017 à plus de 210 G$ US en 2020, soit un taux de croissance annuel composé de 11,9 %.1

Les grands ensembles de données et l’apprentissage profond, un sous-domaine de l’IA, sont récemment devenus les tendances technologiques en vogue parmi les géants de la technologie comme Google, Facebook, Amazon, IBM, Intel et Microsoft. Disposant de moyens considérables, ces géants investissent beaucoup dans l’acquisition de personnel et le développement de matériel et de logiciels propres à l’IA.

Cet intérêt accru pour l’IA, à son tour, entraînera une pléthore de nouveaux risques, et les nouveaux modèles prédictifs appelés à influencer la prise de décisions se logeront de plus en plus sous la responsabilité, pour la gestion du risque, du chef des finances ou du chef de la gestion du risque.

  • L’IA est omniprésente

    L’internet des objets et l’IA sont intégrés dans les pratiques et processus d’affaires plus rapidement que jamais et sont appelés à causer de la disruption dans toutes les entreprises et toutes les industries. Nous connaissons déjà l’impact des notes de crédit sur les services financiers et de l’évaluation par les compagnies d’assurance du profil de risque des clients en fonction de leur historique de crédit ou de paiement. L’IA permettra de faire un pas de plus grâce à l’utilisation de données non structurées et à l’interaction avec les clients au moyen d’agents conversationnels (chatbot).

    Alors que l’IA permet aux machines d’interagir encore plus intimement avec les clients, les spécialistes du marketing utilisent les données non seulement pour comprendre les tendances passées, mais aussi pour prédire des comportements futurs. L’analytique prédictive donne aux marques la possibilité d’automatiser les réponses de marketing dans toute interaction avec un client, comme des présentations en direct sur le web, des agents intelligents établissant des liens pour offrir des produits, des contenus et même des traitements médicaux personnalisés pour chaque client.

    Selon Narrative Science2, environ 10 % des entreprises de services financiers font appel à l’IA pour être plus concurrentielles et pour trouver des occasions dans leurs données qu’elles auraient autrement manquées. Dans les banques et les caisses populaires, l’intégration de l’IA est encore en phase préliminaire. Ces organisations font appel à des méthodes d’IA comme l’analytique prédictive, les moteurs de recommandation, la reconnaissance vocale et la réponse intelligente.

    D’après les données d’un sondage de Narrative Science, 12 % des organisations n’utilisent pas l’IA, qu’elles jugent trop nouvelle et non testée, ou parce qu’elles doutent de sa sécurité. D’autres défis liés à l’IA — comme la peur de défaillance, le cloisonnement des ensembles de données et la conformité à la réglementation — ont aussi été cités.

    Le fait de ne pas avoir de responsable interne des tests des technologies émergentes représente aussi une lacune importante. Pourtant, seulement 6 % des organisations sondées pouvaient compter sur un leader de l’innovation ou sur un dirigeant chargé de tester de nouvelles idées ou de nouveaux processus.

    Ce n’est là que la pointe de l’iceberg. Des risques et des défis que nous n’avons même pas encore envisagés émergeront éventuellement.

  • En quoi l’IA représente un risque?

    L’IA représente un risque parce que le développement de la technologie est plus rapide que notre capacité à bâtir les structures de gouvernance et de contrôle requises. Nous voyons évoluer des structures d’exploitation des modèles d’affaires dans lesquelles des formules mathématiques, ou algorithmes, automatisent la prise de décisions qui touchent directement et de façon importante la race humaine. Le développement de l’IA se passe mille fois plus vite que l’invention du chemin de fer. Nous avançons rapidement vers le moment où la race humaine ne pourra plus s’en passer.

    Du point de vue de l’éthique, sommes-nous prêts? Pouvons-nous gérer les risques? Comprenons-nous vraiment ce qui est sur le point d’être déchaîné? S’il le faut, pourrons-nous faire marche arrière?

Série de vidéos

Dans notre série de vidéos Managing the Risks of AI, Cindy Gordon, chef de la direction et fondatrice de SalesChoice, et Cathy Cobey, associée chez EY, discutent de la montée de l’IA et de ses impacts sur les décisions d’affaires au quotidien. La compréhension de Cindy Gordon des données et de l’analytique, et l’expérience de Cathy Cobey en gestion des risques technologiques sont au cœur d’une bonne discussion, à savoir qui aura le dessus en cette ère numérique : le client, l’organisation ou la machine.

  • Épisode 6: Préjugés sexistes et IA

L’IA surpasse-t-elle l’humain lorsque vient le temps de prendre des décisions impartiales? Dans cet épisode, Cathy Cobey et Cindy Gordon se penchent sur l’incidence du manque de diversité parmi les programmeurs en IA et du manque de variété dans les ensembles de données actuels liés au développement de l’IA. Elles mettent également de l’avant l’importance d’encourager plus de femmes à faire carrière dans les domaines des sciences, de la technologie, de l’ingénierie et des mathématiques, de reconnaître le rôle essentiel qu’elles jouent sur le résultat des entreprises et de les voir participer aux décisions à l’égard du développement de l’IA, afin de détecter la subjectivité dans les données et d’y répondre. Visionnez l’épisode six de la série «Managing the Risks of AI» pour en savoir plus.

  • Épisode 5: L’incidence de la diversité dans l’IA (en anglais seulement)

À quels défis doit faire face l’IA en matière de diversité? Quelles en sont les implications? Dans cet épisode, Cathy Cobey et Cindy Gordon, Ph. D. discutent de l’incidence de la diversité dans le développement de l’IA, y compris les domaines qui investissent actuellement dans l’IA, les répercussions du manque de femmes, et plus largement, du manque de diversité dans le développement de l’IA, et les enjeux systémiques entourant l’accroissement du nombre de femmes dans des professions en science, technologie, ingénierie et mathématiques. Vous trouverez ces sujets et bien d’autres dans le cinquième épisode de « Managing the Risks of AI » .

  • Épisode 4 : Being AI ready (en anglais seulement)

Pourquoi les lacunes dans les connaissances des dirigeants ralentissent-elles le développement de l’IA? Cathy Cobey et le Cindy Gordon s’entretiennent de la gouvernance de l’IA, du rôle de l’éducation pour favoriser la redevabilité de l’IA, et de l’importance de la collaboration dans le quatrième épisode de Managing the Risks of AI.

  • Épisode 3 : Explainable AI (en anglais seulement)

Alors que l’IA ne peut elle-même expliquer son fonctionnement, lui accordez-vous une confiance aveugle? Dans cet épisode, Cathy Cobey et Cindy Gordon analysent les rôles et responsabilités de la haute direction et du conseil d’administration à l’égard de l’IA.

  • Épisode 2 : AI governance and accountability (en anglais seulement)

Comment les fonctions de gouvernance peuvent-elles maintenir le rythme rapide du développement de l’IA? Qui devrait en être responsable? Écoutez Cathy Cobey et Cindy Gordon discuter de ces enjeux dans l’épisode 2 de la série «Managing the Risks of AI».

  • Épisode 1 : Transparency of use (en anglais seulement)

Dans la première vidéo de cette série, Cindy Gordon et Cathy Cobey explorent l’ère numérique, à savoir qui a le dessus : le client qui crée des données ou les entreprises qui utilisent ces données? Cet épisode cible la gestion des données et la transparence de l’utilisation de l’IA.

Les opinions exprimées par SalesChoice dans cette vidéo ne représentent pas nécessairement celles d'EY.

 

Produit en collaboration avec :

Saleschoice

 

1 “Big Data and Business Analytics Revenues Forecast to Reach $150.8 Billion This Year, Led by Banking and Manufacturing Investments, According to IDC,” site web de l’IDC, https://www.idc.com/getdoc.jsp?containerId=prUS42371417, consulté le 9 novembre 2017
2 “The Rise of AI in Financial Services - research brief,” Narrative Science, 2017.