2. Artificial Intelligence Act: Handlungsbedarf bei KI-Einsatz
Mit dem AI Act hat die EU den weltweit ersten Rechtsrahmen für KI-Systeme eingeführt. Die Verordnung unterscheidet KI-Systeme nach ihrem Risiko für Nutzende und Gesellschaft. Bestimmte Anwendungen, wie etwa der Einsatz manipulativer KI-Systeme oder von Social Scoring, sind grundsätzlich verboten. Sogenannte Hochrisiko-KI-Systeme unterliegen umfangreichen Prüf‑, Dokumentations- und Transparenzpflichten. Gewisse Transparenzpflichten bestehen auch im Hinblick auf Anwendungen, die für die direkte Interaktion mit Personen bestimmt sind (wie Chatbots). Insbesondere müssen Betroffene darüber informiert werden, dass sie mit einem KI-System interagieren. KI-Anwendungen, die unter keine der Risikokategorien des AI Act fallen, bleiben im Übrigen unreguliert.
Buy now, pay later
Die Einstufung als Hochrisiko-KI-System erfolgt gemäß den in Art. 6 des AI Act genannten Kriterien. Im E-Commerce gehören automatisierte Systeme zur Prüfung der Kreditwürdigkeit von Privatpersonen zu den typischen Anwendungsfällen. Auch Systeme zur automatisierten Preisgestaltung, Produktempfehlung, Risikobewertung oder Zahlungsabwicklung – etwa zur Betrugserkennung oder Zahlungsoptimierung wie beim Echtzeit-Scoring im Rahmen des sogenannten „Buy now, pay later“-Modells – können betroffen sein.
Mensch-Maschine-Schnittstellen
Für Hochrisiko-KI-Systeme muss ein Risikomanagementsystem eingerichtet, dokumentiert und über den gesamten Lebenszyklus des Systems hinweg aufrechterhalten werden. Zusätzlich sind die Systeme so zu gestalten, dass sie jederzeit wirksam von Menschen beaufsichtigt werden können. Und zwar über geeignete technische Mittel wie Dashboards, Kontrollfunktionen oder Eingabemasken, die es menschlichen Aufsichtspersonen ermöglichen, die Funktionsweise des KI-Systems zu verstehen, zu steuern und bei Bedarf einzugreifen („Mensch-Maschine-Schnittstellen“).
Know your AI
Um die Pflichten aus dem AI Act ordnungsgemäß erfüllen zu können, müssen Unternehmen ihre eingesetzten KI-Systeme korrekt klassifizieren – ganz im Sinne des Prinzips „Know your AI“. Das betrifft nicht nur Anbieter, die ein KI-System oder KI-Modell selbst entwickelt und in Verkehr gebracht haben, sondern auch für Unternehmen, die solche KI-Systeme eigenverantwortlich innerhalb der EU verwenden. Dabei ist es unerheblich, ob der Anbieter oder Betreiber seinen Sitz in der EU hat – entscheidend ist, ob das KI-System in der EU eingesetzt wird (Marktortprinzip).
Zeitplan
Die Vorschriften des AI Act zu verbotenen KI-Praktiken und sogenannter KI-Kompetenz („AI Literacy“) gelten bereits seit Februar 2025. Seit August 2025 gelten zudem die Regelungen zu General Purpose AI (KI-Modelle, die für eine Vielzahl von Aufgaben eingesetzt werden können – z. B. Sprachmodelle und Bildgeneratoren). Die übrigen Vorschriften, insbesondere zu Hochrisiko-KI-Systemen, treten ab August 2026 in Kraft. Bei Verstößen droht je nach Schwere ein Bußgeld von bis zu 6 Prozent des weltweiten Jahresumsatzes.
3. Datenschutz-Grundverordnung: kontinuierliche Verpflichtungen
E-Commerce-Unternehmen verarbeiten regelmäßig eine Vielzahl personenbezogener Daten, sei es zur Abwicklung von Bestellungen, zur Kundenbetreuung oder zu Marketingzwecken. Die DSGVO bleibt daher auch Jahre nach ihrem Inkrafttreten ein zentraler Faktor im digitalen Handel. Die Verordnung stellt strenge Anforderungen an die Verarbeitung personenbezogener Daten und verlangt die Implementierung umfassender Schutzmaßnahmen.
Erst fragen, dann nutzen
E-Commerce-Unternehmen müssen gewährleisten, dass alle gesammelten Daten rechtmäßig, transparent und zweckgebunden verarbeitet werden. Darüber hinaus müssen sie klare und verständliche Datenschutzerklärungen bereitstellen, in denen sie die Art und den Zweck der Datenverarbeitung erklären sowie die Einwilligung der Nutzenden einholen, bevor sie personenbezogene Daten zu Direktmarketing-Zwecken verwenden. Schließlich sind Unternehmen verpflichtet, technische Sicherheitsmaßnahmen, wie die Verschlüsselung von Daten, und Zugriffskontrollen zu implementieren, um die Daten vor unbefugtem Zugriff zu schützen. Die Nichteinhaltung der DSGVO-Vorgaben kann zu erheblichen Bußgeldern führen, die bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes betragen können.
Schwellenwerte sollen steigen
Auf EU-Ebene wird derzeit unter dem Stichwort „Omnibus-IV-Paket“ über eine Reform der DSGVO beraten. Der Vorschlag sieht bürokratische Entlastungen insbesondere für kleine und mittlere Unternehmen vor. Geplant ist u. a. eine Anhebung der Schwellenwerte für die Pflicht zur Führung eines Verzeichnisses von Verarbeitungstätigkeiten: Statt wie bisher bei weniger als 250 Mitarbeitenden soll die Ausnahme künftig für Unternehmen mit bis zu 750 Mitarbeitenden gelten. Darüber hinaus sollen die Bedürfnisse kleiner und mittlerer Unternehmen bei der Ausarbeitung von Verhaltensregeln stärker berücksichtigt werden. Konkret bedeutet das praxisnahe, branchenspezifische Anforderungen, die den betrieblichen Ablauf sowie die tatsächlichen Ressourcen von Unternehmen dieser Größenordnung realistisch abbilden. Auch bei der Erteilung von Datenschutzzertifizierungen sollen die Bedürfnisse kleiner und mittlerer Unternehmen stärker in den Fokus rücken. Vorgesehen ist eine Vereinfachung der Verfahren durch klarere Anforderungen und kürzere Prüfprozesse.
TDDD-Gesetz
Neben der DSGVO prägt auch das auf der E-Privacy-Richtlinie basierende Telekommunikation-Digitale-Dienste-Datenschutz-Gesetz (TDDDG) den Umgang mit Daten im E-Commerce. Es enthält insbesondere strenge Vorgaben für den Einsatz von Cookies (kleinen Textdateien, die beim Besuch einer Website Informationen über die Nutzenden speichern) und von vergleichbaren Technologien zur Nutzerverfolgung. Grundsätzlich dürfen nicht technisch erforderliche Cookies – etwa zu Analyse- oder Marketingzwecken – nur dann gesetzt werden, wenn Nutzende zuvor ausdrücklich eingewilligt haben (Opt-in-Verfahren). Trotz anhaltender Diskussionen etwa über ein Opt-out-Verfahren ist eine gesetzliche Anpassung derzeit nicht geplant.