Laden Sie das Whitepaper herunter: «Die Zukunft der Biowissenschaften aktiv gestalten: Regulatorische, technologische und risikorelevante Dimensionen der KI»
1. Regularien
Wir befassen uns mit dem Gesetz über künstliche Intelligenz der EU (KI-Gesetz) und seinen potenziellen Auswirkungen auf die Schweiz. Wir beleuchten dabei einen möglichen Lösungsweg für die Schweiz im Hinblick auf die bevorstehende hiesige Gesetzgebung. Angesichts der Bedeutung der EU als wichtiger Handelspartner für die Schweiz ist es für die Marktteilnehmer unerlässlich, die Auswirkungen des KI-Gesetzes zu bewerten und dessen Einhaltung sicherzustellen.
Das Whitepaper von EY unterstützt die Stakeholder – darunter traditionelle Biopharmaunternehmen und neu in die Branche einsteigende Tech-Unternehmen – sich auf die kommenden Regulierungen vorzubereiten. Wenn Organisationen jetzt in dieses Thema investieren, können sie die Einhaltung von Regularien sicherstellen und gleichzeitig die Vorteile der KI für ihr Geschäft optimal nutzen.
2. Risiko
Das KI-Gesetz der EU behandelt Risikostufen und Mechanismen zu deren Kontrolle: Unannehmbare Risiken werden untersagt, risikoreiche Aktivitäten werden unter strenger Einhaltung der Vorschriften zugelassen, für künstliche Intelligenz mit begrenztem Risiko werden Transparenzverpflichtungen eingefordert und künstliche Intelligenz mit minimalem Risiko ist ohne Einschränkungen erlaubt.
Für den Sektor der Biowissenschaften, der sich mit sicherheitskritischen Anwendungen befasst, kann die Einhaltung der neuen Vorschriften schwierig und kostspielig sein. Unternehmen müssen KI-Governance und Risikobewertungen in ihren Organisationsstrukturen integrieren, daraus resultierende ethische Verpflichtungen festlegen, eine strategische Vision entwickeln, die Auswirkungen von KI konsistent bewerten und Risiken bei Dritten kontrollieren.
In dieser Umgebung liegt es im Interesse von den Stakeholdern der Biowissenschaften, KI-Risiken und die Prinzipien der Vertrauenswürdigkeit während des gesamten KI-Lebenszyklus miteinander zu verknüpfen. Die erfolgreiche Operationalisierung des KI-Risikomanagements setzt eine Abstimmung mit den Risikomanagementprogrammen der Organisation in Bereichen wie Governance, Kultur, Methoden, Prozesse und Technologie voraus.
3. Technologie
Eine ausgewogene Balance zwischen Transparenz und Komplexität bei der KI-Modellierung ist für Organisationen, die von den Vorteilen der KI profitieren wollen, von zentraler Bedeutung. Ansätze zur Verbesserung der Interpretierbarkeit und zur Identifizierung potenzieller Verzerrungen tragen dazu bei, die mit Black-Box-Modellen verbundenen Herausforderungen zu bewältigen und das Verständnis und Vertrauen in KI-Systeme zu fördern.
Entwickler sollten interpretierbare Funktionen priorisieren und Post-hoc-Analysetechniken einsetzen, um das Verhalten von Black-Box-Modellen zu bewerten. Zudem sollten sie sicherstellen, dass sie die verwendeten Algorithmen angemessen dokumentieren, um die Transparenz zu erhöhen und das Vertrauen der Marktteilnehmer zu stärken.
Fazit
Mit der fortlaufenden Entwicklung der KI und der parallel entstehenden Regulierung müssen Organisationen strategische Entscheidungen treffen, die ein Gleichgewicht zwischen Transparenz, Komplexität und Vorhersehbarkeit erlauben. Gelingt dies, können Organisationen die Zuverlässigkeit und Effektivität ihrer KI-Systeme verbessern, ihre Abläufe in Bezug auf Produktivität und Kosten optimieren und gleichzeitig weitreichenden Risiken, die sich aus der Nichteinhaltung von parallel entstehender Regulierung ergeben, vermeiden.
Danksagung
Wir möchten Sharon Kaufman, Michael Imhof, Michael Graf, Iuliia Metitieri, David Sütterlin, Marco Pizziol, Oliver Mohajeri, Aljoscha Gruler und Esther van Laarhoven-Smits unseren Dank für ihren wichtigen Beitrag zur Vorbereitung und Gestaltung dieser Veröffentlichung ausdrücken.
