EU veröffentlicht Ethikrichtlinien zur Entwicklung von künstlicher Intelligenz

Die EU hat am 8. April 2019 Leitlinien zur ethischen Anwendung künstlicher Intelligenz (KI) veröffentlicht.
Die Leitlinien basieren auf einem bereits im Dezember 2018 publizierten Entwurf, der im Rahmen einer offenen Konsultation sehr rege diskutiert wurde. Die Leitlinien sind nicht rechtsverbindlich, könnten aber die zukünftig auszuarbeitenden Rechtsvorschriften der EU beeinflussen. Daher sind vor allem Unternehmen und die Regierungen davon betroffen. Diese Entwicklung ist auch für die europäische Versicherungsaufsicht von Bedeutung und könnte weitere Veröffentlichungen der EIOPA im Hinblick auf die Nutzung von künstlicher Intelligenz im Versicherungsgeschäft (siehe auch Blogbeitrag vom 25. April 2019) beschleunigen.
Nach Ansicht der EU sollen KI-Systeme zurechnungsfähig und nachvollziehbar sein und nicht verzerrt werden. Es gibt drei wichtige Eigenschaften, die erfüllt werden sollen, damit KI-Systeme vertrauenswürdig sind:
Die Leitlinien gehen auf die folgenden sieben Schlüsselanforderungen ein, die KI-Systeme erfüllen sollen:
Die veröffentlichten Leitlinien beinhalten zudem einen Fragenkatalog, der anhand einer Bewertungsliste mögliche Schwachstellen und Gefahren von KI-Systemen aufdecken und die Schlüsselanforderungen operationalisieren und verbessern soll.
Nächste Schritte:
Die EU richtet einen Pilotprozess ein, um anhand der Bewertungsliste Feedback von den Unternehmen einzuholen. Kommentare sind ab Sommer 2019 möglich. Außerdem wird ein Diskussionsforum zur Verfügung gestellt, um den Austausch von bewährten Verfahren zur Umsetzung von vertrauenswürdigen KI-Systemen zu fördern.
Nach der Pilotphase wird Anfang 2020 eine Überprüfung der Rückmeldungen und der Bewertungsliste erfolgen. Auf dieser Grundlage wird die Europäische Kommission das Ergebnis bewerten und das weiter Vorgehen bekanntgeben.