Europäische Kommission als Vorreiter zur Regulierung von künstlicher Intelligenz

Der Entwurf zielt darauf ab, die bisherige regulatorische Lücke zu schließen und gleichzeitig durch mehr Klarheit und greifbare Definitionen auch das gesellschaftliche Vertrauen in KI-Systeme zu stärken/schaffen.

Neue regulatorische Anforderungen an Künstliche Intelligenz (KI)

Künstliche Intelligenz (KI) birgt enormes Potential für unsere Gesellschaft – diese Ansicht vertritt auch die Europäische Kommission (EU-Kommission) und hat KI in ihrer Digitalisierungsstrategie hohe Bedeutung eingeräumt. Die EU-Kommission hat hierzu einen Verordnungsentwurf zur Regulierung der Nutzung Künstlicher Intelligenz („KI“) vorgelegt. Der Entwurf zielt darauf ab, die bisherige regulatorische Lücke zu schließen und gleichzeitig durch mehr Klarheit und greifbare Definitionen auch das gesellschaftliche Vertrauen in KI-Systeme zu stärken/schaffen.

Mit dem Artificial Intelligence Act (EU AI Act) hat die EU-Kommission einen Vorschlag für die Schaffung harmonisierter Regeln für einen verhältnismäßigen und risikobasierten Ansatz für den Einsatz von künstlicher Intelligenz in Europa vorgestellt. Die Kommission präsentiert mit der Verordnung einen neuen Rechtsrahmen im Umgang mit KI, für jene Fälle, welche die bestehenden nationalen Vorschriften nicht abdecken. Mit diesem Framework hat die EU-Kommission einen klaren Ansatz geschaffen, KI in vier Risikostufen von „minimal Risk“ (minimalem Risiko) bis hin zu „unacceptable risk“ (nicht akzeptierbares Risiko) einzuteilen und entsprechend zu regulieren. So bringt sie strenge Regelungen und verbindliche Anforderungen an KI der Kategorie „high risk“ (hohem Risiko) mit sich, als auch Anforderungen an KI mit „limited risk“ (limitiertem Risiko).

Anforderungen an „Hoch-Risiko-KI-Systeme“

Die umfangreichen Anforderungen an Hoch-Risiko-KI-Systeme reichen von der Etablierung eines Risiko-Management-System für die gesamte Einsatzdauer und menschlicher Aufsicht („Human Oversight“) über Transparenzanforderungen und der Bereitstellung von Informationen für den Nutzer bis hin zu Anforderungen an die technische Dokumentation und Aufzeichnung von Ereignissen. Hinzu kommen Anforderungen an die Genauigkeit, Robustheit und Cybersecurity bis hin zu der Notwendigkeit einer Konformitätsprüfung vor Markteintritt sowie CE-Zertifizierung. Diese CE-Kennzeichnung besagt, dass ein KI-System den Anforderungen des EU AI Act und anderen geltenden „Harmonisierungsrechtsvorschriften der Union“ entspricht. Eine Zertifizierung erfolgt meist durch den Anbieter selbst, in bestimmten Fällen schreibt der EU AI Act jedoch das Mitwirken eines Prüf- und Zertifizierungsinstituts vor. Dabei hat der Prüfer in bestimmten Fällen sogar die Möglichkeit einen begründeten Antrag auf Zugang zum Quellcode zu stellen.

Insgesamt verschafft die EU-Kommission mit dem EU AI Act Entwicklern, Anbietern und Nutzern von KI-Systemen einen nötigen klaren regulatorischen Rahmen, stellt sie zugleich jedoch vor große Herausforderungen in der Erfüllung dieser Anforderungen.

Die Herausforderungen auf dem Weg zum sicheren Einsatz von KI

Die Bewältigung dieser Herausforderung haben wir uns zum Ziel gesetzt und unser strukturiertes Validierungsframework RAIVE (Responsible AI Validation Engine), basierend auf unseren Erfahrungen und Marktexpertise entwickelt. Unser Framework bietet Ihnen über sieben Dimensionen hinweg eine gesamtheitliche Analyse aller relevanten Unternehmensbereiche – von den organisatorischen Gesichtspunkten der KI-Plattform bis hin zu Ihren spezifischen Anwendungsfällen.

Abbildung 1: Prüfungsdimensionen und Assessment-Layer im Überblick

Während des gesamten Assessments stehen wir mit Ihnen in eng im Austausch, um optimal auf Ihre Bedürfnisse einzugehen. Dabei sind uns Transparenz und Prüfungsfestigkeit besonders wichtig. Unter Einbindung unserer Audit-Kolleg:innen bieten wir Ihnen eine optimale Verzahnung unserer Prüfungs- und Projekterfahrung rund um das Thema künstliche Intelligenz.

Somit bereiten wir Sie nicht nur optimal auf ihre Konformitätsprüfung und CE-Zertifizierung vor, sondern helfen Ihnen, ihre Risiken und Problemstellen frühzeitig zu erkennen, entwickeln mit Ihnen gemeinsam Maßnahmen zur Behebung und setzen die Lösungen mit Ihnen zusammen um. Dabei kennen wir die Fallstricke und bringen neben unserem Know-How Empfehlungen auf Basis organisatorischer Erkenntnisse und Technologieausrichtung unter der Berücksichtigung von Best Practices mit.

Gerne unterstützen wir Sie bei Ihrem Weg zum Einsatz von KI-Technologien und helfen Ihnen die wachsenden regulatorischen Herausforderungen zu meistern.

Für sämtliche Rückfragen stehen wir Ihnen selbstverständlich jederzeit zur Verfügung.

Erfahren Sie mehr zu Vertrauen und Sicherheit beim Einsatz künstlicher Intelligenzsowie weiterführende Informationen zu RAIVE finden Sie unter folgendem Link.

Zu weiteren PwC Blogs