Wie wird sich die Umgestaltung der geschäftlichen Strukturen durch Gen-KI auf die rechtlichen Rahmenbedingungen auswirken?

Auf Englisch lesen, auf Französisch lesen 

Der Aufstieg der generativen künstlichen Intelligenz hat eine Debatte über verschiedene rechtliche, regulatorische und Compliance-Überlegungen ausgelöst

Überblick

• Generative KI eröffnet spannende Möglichkeiten - aber auch neue Herausforderungen.
• Geistiges Eigentum, Datenschutz, Ethik und Compliance stellen dabei die Hauptrisiken dar.
• Unternehmungen müssen die jüngsten regulatorischen Entwicklungen im Zusammenhang mit KI und Datenschutz verstehen und entsprechend reagieren.

Mit der generativen KI (Gen-KI) sind ungeahnte Möglichkeiten entstanden, um menschenähnliche Inhalte zu generieren, darunter Texte, Bilder und sogar Musik. Gen-KI erschliesst einerseits eine Vielzahl von Chancen in verschiedenen Branchen, andererseits gilt es bei ihrer Nutzung und Entwicklung erhebliche rechtliche, regulatorische und Compliance-Aspekte zu berücksichtigen. In diesem Artikel werden einige dieser Probleme erörtert und Strategien vorgestellt, die Unternehmungen zur Risikominderung nutzen können.

Geistiges Eigentum

Die möglichen Auswirkungen von Gen-KI auf die Rechte an geistigem Eigentum werfen vielleicht die drängendsten rechtlichen Probleme auf. Da Gen-KI in der Lage ist, eigene Werke zu schaffen, stellt sich die Frage, wer die Rechte an diesen Werken besitzt. In Bereichen wie Kunst und Musik schützt das Urheberrecht die Rechte der Künstler. Ist der Urheber jedoch ein KI-Algorithmus, dann gestaltet sich die Bestimmung der Eigentumsrechte an den entstandenen Inhalten deutlich schwieriger.

In den meisten Rechtsordnungen der Welt, so auch in der Schweiz, wird der Mensch als Inhaber von Rechten an geistigem Eigentum angesehen. Daher ist es von grösster Wichtigkeit, Leitlinien und Regularien zu erstellen, um zu bestimmen, ob KI-generierten Werken derselbe Schutz gewährt werden sollte. In diesen Leitlinien müsste berücksichtigt werden, inwieweit der Mensch am Schaffensprozess beteiligt ist und ob der KI-Algorithmus als autonome kreative Instanz betrachtet werden kann. Das richtige Gleichgewicht zwischen der Förderung von Innovation und den Schutzrechten von Künstlern wird bei der Bewältigung dieser Herausforderung von entscheidender Bedeutung sein.

Datenschutz

Gen-KI-Systeme benötigen oft grosse Datenmengen, um zu lernen und Inhalte präzise zu produzieren. Diese Abhängigkeit von Daten wirft jedoch Bedenken hinsichtlich des Datenschutzes und der Sicherheit auf. Unter den Gen-KI-Modellen, das eine Debatte über Datenschutz und Sicherheit ausgelöst hat, ist ChatGPT hervorzuheben. Die für das Training von ChatGPT verwendete Methode der Datenerfassung kann rechtswidrig sein, wenn die Daten einer Quelle ohne Zustimmung der jeweiligen Dateneigentümer entnommen wurden. Die gesammelten Daten können personenbezogene oder sensible Daten enthalten, für die nach den geltenden Datenschutzgesetzen, insbesondere der EU-Datenschutzgrundverordnung (DSGVO) und dem Schweizer Bundesgesetz über den Datenschutz (DSG), eine Zustimmung erforderlich ist. Ein weiterer wichtiger Aspekt des Datenschutzes im Zusammenhang mit Gen-KI wie ChatGPT ist Transparenz. Die Nutzer sollten darüber informiert werden, wie ihre personenbezogenen Daten erhoben, verarbeitet und verwendet werden, und sie sollten die Möglichkeit haben, auf ihre personenbezogenen Daten zuzugreifen oder diese zu kontrollieren.

Verschiedene Datenschutzbehörden haben sich zu den Risiken geäussert, die generative KI-Modelle aus regulatorischer Sicht für den Datenschutz und die Datensicherheit darstellen. Hierbei ist die italienische Datenschutzbehörde Garante zu nennen, die Anfang des Jahres die Nutzung von ChatGPT vorübergehend untersagte, vor allem wegen der unrechtmässigen Erhebung personenbezogener Daten und des mangelnden Schutzes von Minderjährigen. Daraufhin veröffentlichte der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte eine Erklärung, die Unternehmungen, welche beabsichtigen ChatGPT zu nutzen, zur Vorsicht riet. Darüber hinaus kündigte der Europäische Datenschutzausschuss die Einrichtung einer Task Force an, die sich speziell mit ChatGPT befassen soll, und bekräftigte damit die Notwendigkeit einer angemessenen Regulierung solcher Gen-KI-Systeme.

Ethische Fragen

Die mit Gen-KI verbundenen ethischen Aspekte sind ebenfalls umfangreich und vielschichtig. Politische Entscheidungsträger und Entwickler müssen sich mit Fragen auseinandersetzen, wie beispielsweise: Wie kann die Technologie so reguliert werden, dass Missbrauch von KI-generierten Inhalten verhindert wird? Sollte es Einschränkungen für bestimmte Arten von Gen-KI-generierten Inhalten geben? Wie kann Gen-KI so entwickelt werden, dass sie andere nicht manipuliert oder täuscht?

Eine wesentliche Herausforderung von Gen-KI liegt in ihrem Potenzial, verzerrte oder diskriminierende Ergebnisse zu produzieren. Gen-KI kann häufig zu KI-Halluzinationen führen und falsche oder irreführende Informationen generieren, die Verbrauchern schaden könnten. Vor dem rechtlichen Hintergrund kann sich die Frage stellen, bis zu welchem Grad sich eine Person auf die von Gen-KI bereitgestellten Informationen verlässt. Diese ethischen Problemstellungen müssen angegangen werden, um sicherzustellen, dass Gen-KI zur Verbesserung der Gesellschaft beiträgt und dabei nicht die Privatsphäre, die Sicherheit oder kulturelle Normen verletzt.

Rechtliche Entwicklungen

Der rapide Vormarsch von Gen-KI hat sich auch auf die Gesetzgebungsdebatten bezüglich des EU-Gesetzes über künstliche Intelligenz (KI-Gesetz) ausgewirkt, das die Entwicklung und Nutzung von KI in der Europäischen Union regeln soll. Das Europäische Parlament änderte den ursprünglichen Entwurf der Europäischen Kommission grundlegend ab, insbesondere durch die Einführung spezifischer, für Gen-KI-Systeme geltender Bestimmungen. Insbesondere müssen die Anbieter von Gen-KI-Systemen das System so trainieren, konzipieren und entwickeln, dass es nach dem Stand der Technik gegen die Erstellung von Inhalten, die gegen das EU-Recht verstossen, gesichert ist. Des Weiteren müssen die Anbieter die Verwendung von urheberrechtlich geschützten Schulungsdaten dokumentieren und eine detaillierte Zusammenfassung öffentlich zugänglich bereitstellen sowie strengere Transparenzanforderungen erfüllen.

Im Licht der signifikanten Fortschritte von Gen-KI und ihrer potenziellen Auswirkungen auf die Gesellschaft drängen die EU-Gesetzgeber ganz offensichtlich darauf, die Betreiber solcher KI-Systeme strengen Anforderungen zu unterstellen. Im Ergebnis müssen Unternehmungen, die Gen-KI einsetzen, sicherstellen, dass sie die einschlägigen Vorschriften und Richtlinien einhalten, insbesondere in Bezug auf KI und Datenschutz.

Wie kann sich Ihre Unternehmung vorbereiten?

Mit der technologischen Landschaft ändert sich gleichzeitig auch das rechtliche Umfeld. Für viele Unternehmungen stellt dieser rasche Wandel eine Herausforderung hinsichtlich der internen Kapazitäten und Fachkenntnisse dar. Angesichts dieser Situation kann sich eine Zusammenarbeit mit einem externen Anbieter für eine Status-quo-Analyse oder laufende Unterstützung als nützlich erweisen. Hier einige Massnahmen, die Sie in Betracht ziehen können:

• Führen Sie einen «Health Check» durch, um allgemeine Konformitätslücken im Zusammenhang mit der Nutzung von Gen-KI zu ermitteln und Empfehlungen für Abhilfemassnahmen zu erhalten.

• Holen Sie den Rat von Experten ein, wie Sie Gen-KI konform mit den Anforderungen der Finanzaufsichtsbehörden einsetzen können.

• Lassen Sie Ihre Entwürfe für KI-Richtlinien und -Prozesse überprüfen, führen Sie Produktrisikobewertungen durch und lassen Sie sich bei der Einhaltung rechtlicher und ethischer Anforderungen anleiten.

• Stellen Sie sicher, dass Sie wissen, wie die für den Einsatz von Gen-KI in Ihrer Unternehmung relevanten Datenschutz-Folgenabschätzungen (DPIAs) durchzuführen, sind, um die Einhaltung der geltenden Datenschutzgesetze zu gewährleisten.

Danksagung

Wir danken Cathy O'Neill für ihren wertvollen Beitrag zu diesem Artikel.