KI-Integration: Warum das Zusammenspiel mit dem Menschen entscheidet

Ganzheitlicher Ansatz: Die Plattformstrategie von EY.ai

Unterstützung bietet die integrierte KI-Plattform EY.ai. EY hat sie für Kunden entwickelt, nutzt sie aber auch selbst. Der Ansatz ist ganzheitlich: Unternehmen können damit kommerziell wirksame KI-Strategien entwickeln, die eigene KI-Reife systematisch messen und optimieren und KI in ihre Geschäftsprozesse integrieren.

Zur umfangreichen fachlichen Beratung kommt die technische EY.ai Agentic Platform als zentraler Bestandteil. Sie ermöglicht es, leistungsfähige und sichere KI-Lösungen – etwa prozessorientierte KI-Agenten – bereitzustellen, ohne dass Unternehmen eigene, kostenintensive KI-Abteilungen aufbauen müssen. Dabei gelten höchste Standards in Fragen von Datenschutz, regulatorischer Konformität und ethischer Verantwortung.

Regulatorik: Der AI-Act und was Unternehmen erwartet

Aufsichtsfragen spielen eine zentrale Rolle. Europa hat sich mit dem AI Act (AIA) der EU bereits ein umfangreiches regulatorisches Gerüst für KI gegeben. Das Gesetz ist eine horizontale Regelung für alle Wirtschaftsbereiche und soll unter anderem dazu dienen, Innovationen zu fördern. Die Risiken von Diskriminierung sowie für Sicherheit und Gesundheit bei der Nutzung von KI könnten Unternehmen sonst von der Nutzung abhalten.

Für Hochrisiko-KI-Systeme – etwa in den umfassend regulierten Bereichen Kfz, Medizinprodukte und kritische Infrastruktur – gelten damit strenge materielle und formelle Anforderungen. Ähnlich sieht es im Personalbereich aus, wo die Gefahr systematischer Benachteiligung durch Voreingenommenheit der KI besteht. Für Unternehmen ergeben sich aus diesen Regelungen erhebliche Vorgaben für die Dokumentation, bei Konformitätsverfahren mit CE-Kennzeichnung oder beim Post-Market-Monitoring.

Dieser strikte regulatorische Rahmen dürfte einer der Auslöser dafür sein, dass KI vorrangig außerhalb von Europa entwickelt wird. Ganz anders ist die Situation in den USA und in China, wo zuletzt ein erheblicher Teil der Innovationen umgesetzt wurde. Ziel der Verantwortlichen ist es dort, rechtliche Hürden für KI möglichst gering zu halten. Für viele europäische Konzerne, insbesondere für kleine und junge Unternehmen, stellt der AIA damit möglicherweise ein Hindernis dar.

Datenschutz und Urheberrecht: juristische Herausforderungen beim Training von KI-Modellen

Unbedingt beachten sollten Unternehmen die Auflagen, die der Datenschutz und das Urheberrecht mit sich bringen. Datenschutz wird zum Beispiel relevant, wenn Trainingsdaten personenbezogen sind, etwa bei der Callcenter-Kommunikation für ein Chatbot-Training. Die Anonymisierung der Trainingsdaten kann hier helfen. Werden für ein Training Bilder, Videos oder Texte genutzt, greift das Urheberrecht.

Schließlich stellt der AI Act für Hochrisiko-KI-Systeme im Rahmen der „Data Governance“ erhebliche Anforderungen an die Datenqualität. So soll vermieden werden, dass mäßiger Input zu ungenügendem KI-Output führt.

AI Literacy und Reporting: strenge Anforderungen ab 2026

Schon heute legt der AIA fest, dass Unternehmen verpflichtet sind, die KI-Kompetenz oder („AI Literacy“) ihrer Mitarbeitenden sicherzustellen. So dürfen verbotene KI-Systeme – etwa das in China praktizierte Social Scoring, das beispielsweise Verkehrsverstöße bei der Wohnungsvergabe berücksichtigt – nicht genutzt werden.

Ab August 2026 müssen Unternehmen zudem Strukturen und Prozesse so organisieren, dass jedes KI-System erfasst wird. Risiken müssen sie bewerten und begrenzen. Personenbezogene Daten dürfen nur dann für KI verwendet werden, wenn eine Rechtsgrundlage dafür besteht. Weil die Qualität der Daten für die KI essenziell ist, wird es für Unternehmen immer wichtiger, eine ganzheitliche Data Governance aufzusetzen. So sind die für die KI erforderlichen Daten in geeigneter Qualität verfügbar, rechtliche und operative Risiken können frühzeitig identifiziert werden.

Vertrauen als entscheidendes Prinzip für den KI-Einsatz

Doch nicht nur rechtliche Fragen und die Datenqualität sollten Unternehmen im Blick behalten. Ein entscheidendes Kriterium beim Einsatz von KI ist die Einhaltung von ethischen Prinzipien und Verantwortung. Dazu gehören insbesondere Transparenz und Fairness. Konkret bedeutet das: Wo KI zum Einsatz kommt, müssen Nutzende sowohl den Ergebnissen als auch den zugrunde liegenden Prozessen vertrauen können. Sie müssen auch jeweils bewusst darüber entscheiden, in welchen Bereichen KI den Menschen unterstützt oder wo sie komplette Aufgaben übernimmt.

Change Management: KI verändert die Arbeit – aber ersetzt den Menschen nicht

In Zukunft werden eher mehr Menschen arbeiten als heute. Aber sie arbeiten anders. KI beeinflusst die Definition des Arbeitsplatzes der Zukunft. Zahlreiche Studien zeigen, dass KI bestehende Tätigkeitsfelder verschiebt, insgesamt jedoch zu mehr Beschäftigung führt. KI wird zu einem alltäglichen Werkzeug für effizientes digitales Arbeiten.

Das volle Potenzial entfaltet die KI aber erst im Zusammenspiel mit dem Menschen, nicht als sein Ersatz. Zur Vorbereitung ist es für Unternehmen entscheidend, Mitarbeitende frühzeitig und gezielt weiterzubilden. Ein aktives Change-Management und die umfassende Stärkung digitaler Kompetenz sind dafür wichtige Bausteine.