Die EU hat am 8. April 2019 Leitlinien zur ethischen Anwendung künstlicher Intelligenz (KI) veröffentlicht.

Die Leitlinien basieren auf einem bereits im Dezember 2018 publizierten Entwurf, der im Rahmen einer offenen Konsultation sehr rege diskutiert wurde. Die Leitlinien sind nicht rechtsverbindlich, könnten aber die zukünftig auszuarbeitenden Rechtsvorschriften der EU beeinflussen. Daher sind vor allem Unternehmen und die Regierungen davon betroffen. Diese Entwicklung ist auch für die europäische Versicherungsaufsicht von Bedeutung und könnte weitere Veröffentlichungen der EIOPA im Hinblick auf die Nutzung von künstlicher Intelligenz im Versicherungsgeschäft (siehe auch Blogbeitrag vom 25. April 2019) beschleunigen.

Nach Ansicht der EU sollen KI-Systeme zurechnungsfähig und nachvollziehbar sein und nicht verzerrt werden. Es gibt drei wichtige Eigenschaften, die erfüllt werden sollen, damit KI-Systeme vertrauenswürdig sind:

• Rechtmäßig: Beachtung aller geltenden Gesetze und Vorschriften
• Ethisch: Einhaltung ethischer Grundsätze und Werte
• Robust: aus technischer Sicht und sozialen Aspekten

Die Leitlinien gehen auf die folgenden sieben Schlüsselanforderungen ein, die KI-Systeme erfüllen sollen:

• Menschliche Handlungsfähigkeit und Kontrolle: KI als zusätzliche Unterstützung des menschlichen Handelns, um fundierte Entscheidungen zu treffen. Es soll die Möglichkeit bestehen, in die Entscheidungen der KI einzugreifen und diese zu überwachen.
• Technische Robustheit und Sicherheit: KI-Systeme sollen widerstandsfähig und sicher sein, vor allem im Hinblick auf externe Angriffe.
• Datenschutz und Datenverwaltung: Der Datenschutz und die Privatsphäre von personenbezogenen Daten, die das KI-System erfasst, soll gewährleistet sein.
• Transparenz: Die Nutzer der KI-Systeme sollen die Daten und Algorithmen verstehen, d.h. die von den Systemen getroffenen Entscheidungen können nachvollzogen und erklärt werden.
• Vielfalt, Nichtdiskriminierung und Fairness: Die Dienstleistungen eines KI-Systems soll für jeden zugänglich sein unabhängig von Alter, Geschlecht, Rasse oder anderen Merkmalen. Auf eine Verzerrung der Systeme in dieser Weise soll ebenso verzichtet werden.
• Ökologisches und gesellschaftliches Wohlergehen: Berücksichtigung der Aspekte Nachhaltigkeit und soziales Umfeld.
• Zuverlässigkeit: KI-Systeme sollen prüfbar sein und entsprechende Schutzvorkehrungen getroffen werden.

Die veröffentlichten Leitlinien beinhalten zudem einen Fragenkatalog, der anhand einer Bewertungsliste mögliche Schwachstellen und Gefahren von KI-Systemen aufdecken und die Schlüsselanforderungen operationalisieren und verbessern soll.

Nächste Schritte:

Die EU richtet einen Pilotprozess ein, um anhand der Bewertungsliste Feedback von den Unternehmen einzuholen. Kommentare sind ab Sommer 2019 möglich. Außerdem wird ein Diskussionsforum zur Verfügung gestellt, um den Austausch von bewährten Verfahren zur Umsetzung von vertrauenswürdigen KI-Systemen zu fördern.

Nach der Pilotphase wird Anfang 2020 eine Überprüfung der Rückmeldungen und der Bewertungsliste erfolgen. Auf dieser Grundlage wird die Europäische Kommission das Ergebnis bewerten und das weiter Vorgehen bekanntgeben.