Tandis que l’IA générative remodèle le monde des affaires, à quoi ressemblera le paysage juridique ?

Lire en anglais, lire en allemand

L’essor de l’intelligence artificielle générative a suscité un débat autour de considérations juridiques, réglementaires et de conformité.

En bref

• L’IA générative ouvre des perspectives passionnantes, mais elle pose également de nouveaux défis.
• Les principaux risques sont liés à la propriété intellectuelle, à la protection des données, à l’éthique et à la conformité.
• Les entreprises doivent comprendre les récentes évolutions réglementaires survenues dans le contexte de l’IA et de la protection des données, et en tenir compte.

L’avènement de l’IA générative (Gen AI) a apporté des moyens révolutionnaires pour générer du contenu semblable à celui d’un être humain, y compris du texte, des images et même de la musique. L’IA générative crée un large éventail de possibilités dans divers secteurs. Toutefois, son utilisation et son développement doivent tenir compte d’importantes considérations juridiques, réglementaires et de conformité. Cet article aborde certains de ces aspects et explore les stratégies que les entreprises peuvent adopter pour atténuer les risques.

Propriété intellectuelle

L’une des préoccupations juridiques majeures liées à l’IA générative est peut-être son impact potentiel sur les droits de propriété intellectuelle. L’IA générative permettant de créer des œuvres originales, il s’agit de savoir qui détient les droits sur ces créations. Dans des domaines tels que l’art et la musique, la loi sur le droit d’auteur protège les droits des créateurs. Cependant, lorsque le créateur est un algorithme d’IA, il devient de plus en plus difficile de définir la propriété du contenu.

La plupart des cadres juridiques dans le monde, y compris en Suisse, reconnaissent les humains comme les détenteurs des droits de propriété intellectuelle. Il est donc primordial d’établir des lignes directrices et des réglementations visant à déterminer si les œuvres générées par l’IA devraient bénéficier de la même protection. Ces lignes directrices devraient tenir compte du degré d’implication humaine dans le processus de création et déterminer si l’algorithme d’IA peut être considéré comme une entité créative autonome. Il sera essentiel de trouver un juste équilibre entre l’encouragement de l’innovation et la protection des droits des artistes afin de relever ce défi.

Protection des données

Les systèmes d’IA générative ont bien souvent besoin de grandes quantités de données pour apprendre et produire du contenu avec précision. Cette dépendance à l’égard des données soulève toutefois des inquiétudes en matière de confidentialité et de sécurité. ChatGPT est un modèle d’IA générative qui a suscité un débat sur la confidentialité et la sécurité des données. La méthode de collecte des données utilisée pour former ChatGPT peut être illégale si les données ont été extraites d’une source sans le consentement de leurs propriétaires. Les données recueillies peuvent inclure des données personnelles ou sensibles pour lesquelles le consentement est requis selon les lois pertinentes sur la protection des données, notamment le règlement général sur la protection des données (RGPD) de l’UE et la loi fédérale suisse sur la protection des données (LPD). La transparence constitue un autre aspect important de la confidentialité des données dans le contexte de l’IA générative telle que ChatGPT. Les utilisateurs doivent être informés de la manière dont leurs données personnelles sont collectées, traitées et utilisées, et pouvoir y accéder ou les contrôler, si nécessaire.

D’un point de vue réglementaire, plusieurs autorités de protection des données se sont exprimées à propos des risques que les modèles d’IA générative font peser sur la confidentialité et la sécurité des données. En début d’année, l’autorité italienne de protection des données « Garante » a temporairement interdit l’utilisation de ChatGPT, surtout en raison de sa collecte illégale de données personnelles et de son manque de protection des mineurs. Suite à cela, le Préposé fédéral suisse à la protection des données et à la transparence a publié une déclaration donnant des conseils de prudence aux entreprises souhaitant utiliser cet outil. De plus, le Comité européen de la protection des données a annoncé la création d’un groupe de travail spécifiquement chargé d’enquêter sur ChatGPT, réaffirmant ainsi la nécessité d’une réglementation appropriée de ces systèmes d’IA générative.

Questions éthiques

Les considérations éthiques entourant l’IA générative sont aussi vastes et variées. Les décideurs politiques et les développeurs doivent répondre à des questions telles que : comment la technologie peut-elle être réglementée pour empêcher l’utilisation abusive de contenus générés par l’IA ? Faut-il limiter certains types de contenus pouvant être générés par l’IA ? Comment développer l’IA générative de sorte à ce qu’elle ne manipule pas ou ne trompe pas les autres ?

L’un des défis de taille de l’IA générative tient à son potentiel à produire des résultats biaisés ou discriminatoires. L’IA générative est encline aux hallucinations et peut générer des informations fausses ou trompeuses, susceptibles de nuire aux consommateurs. Dans un contexte juridique, on peut se demander dans quelle mesure une personne peut se fier aux informations fournies par l’IA générative. Ces dilemmes éthiques doivent être abordés afin de s’assurer que l’IA générative soit utilisée pour améliorer la société sans porter atteinte à la vie privée, à la sécurité ou aux normes culturelles.

Développements juridiques

L’essor rapide de l’IA générative s’est également répercuté sur les débats législatifs concernant la Réglement européenne sur l’intelligence artificielle (loi sur l’IA), qui vise à réglementer le développement et l’utilisation de l’IA au sein de l’Union européenne. Le Parlement européen a fortement modifié la proposition initiale de la Commission européenne, notamment en introduisant des règles spécifiques qui s’appliquent aux systèmes d’IA générative. En particulier, les fournisseurs de systèmes d’IA générative devront former, concevoir et développer le système de manière à garantir que la génération de contenus respecte les lois européennes. Ils devront également documenter et fournir un résumé détaillé, accessible au public, de l’utilisation des données de formation protégées par le droit d’auteur, et respecter des obligations de transparence plus strictes.

Compte tenu des avancées significatives de l’IA générative et de son impact potentiel sur la société, les législateurs européens s’efforcent d’imposer des exigences strictes aux exploitants de ces systèmes d’IA. Les entreprises qui déploient l’IA générative doivent donc s’assurer qu’elles respectent les réglementations et les lignes directrices pertinentes, notamment celles relatives à l’IA et à la protection des données.

Que peut faire votre entreprise pour se préparer ?

Le paysage technologique évolue, tout comme l’environnement réglementaire. Pour de nombreuses entreprises, cette évolution rapide pose un défi en termes de capacité et d’expertise internes. Dans ce contexte, il peut s’avérer utile de travailler avec un fournisseur externe pour une analyse du statu quo ou un soutien continu. Voici quelques-unes des mesures que vous pourriez envisager :

• dresser un état des lieux pour identifier les lacunes de conformité liées à l’utilisation de l’IA générative et obtenir des recommandations sur les mesures correctives à prendre ;

• demander l’avis d’un expert en réglementation sur l’utilisation conforme de l’IA générative en tenant compte des exigences émises par les autorités de réglementation financière ;

• faire réviser vos projets de politiques et de processus en matière d’IA, procéder à des évaluations des risques liés aux produits et obtenir des conseils pour garantir la conformité avec les exigences légales et éthiques ;

• s’assurer de comprendre comment réaliser les analyses d’impact relatives à la protection des données (AIPD) pertinentes pour l’utilisation de l’IA générative par votre entreprise afin de garantir la conformité avec la législation applicable en matière de protection des données.

Remerciements

Nous remercions Cathy O’Neill pour sa précieuse contribution à cet article.