Kommunen müssen KI umsichtig einsetzen
Der EU AI Act und seine nationale Umsetzung bringt neue Herausforderungen.
Der vom Europäischen Parlament beschlossene EU AI Act ist das erste Gesetz weltweit, das den Einsatz von künstlicher Intelligenz (KI) reguliert. Dahinter steht die politische Überzeugung, dass die Regulierung den bestmöglichen Ausgleich zwischen Risiko und Innovation sicherstellen muss. Auch Kommunen müssen ihre digitalen Anstrengungen künftig an den Vorgaben des EU AI Act bzw. dessen nationaler Umsetzung per Verordnung ausrichten.
Hohe Dokumentations-, Kontroll- und Qualitätsanforderungen
Der AI Act unterteilt KI-Anwendungen in drei Kategorien – je nach Risikoklasse. Einige KI-Systeme dürfen eingesetzt werden, wenn sie bestimmte Anforderungen erfüllen, manche sind gänzlich verboten. Alle anderen Systeme können zunächst uneingeschränkt betrieben werden. Im Fokus der Verordnung stehen die KI-Systeme mit hohem Risiko – für sie müssen Anwender umfassende Dokumentations-, Überwachungs- und Qualitätsanforderungen erfüllen.
Was bedeutet das für Kommunen? Im Zuge der digitalen Transformation setzen sie KI für immer mehr Aufgaben ein – für intelligente Mobilität, automatisierte Verwaltungsprozesse, die öffentliche Sicherheit und vieles mehr. Künftig müssen Kommunen alle KI-Einsätze mit der neuen KI-Verordnung abgleichen.
Pflichten stufenweise erfüllen
Kommunen sollten sich gezielt auf die neuen Anforderungen einstellen. Gemäß der am 1. August 2024 in Kraft getretenen KI-Verordnung müssen sie wesentliche Pflichten stufenweise erfüllen: Sechs Monate nach Inkrafttreten, also ab Februar 2025, dürfen sie keine KI mit als inakzeptabel eingestuften Risiken mehr einsetzen. Erste Schutzmaßnahmen für KI mit allgemeiner Ausrichtung müssen sie binnen zwölf Monaten nach Inkrafttreten umsetzen. Und nach 24 bzw. 36 Monaten müssen Kommunen auch die Anforderungen an KI-Modelle mit hohem Risiko erfüllt haben.
Verantwortliche in Kommunen sollten sofort tätig werden. Denn der EU-Gesetzgeber hat die Übergangszeiten vorgesehen, damit sie Kommunen prüfen können, inwiefern welche Anwendung von welcher Vorgabe betroffen ist, und damit ihre Projekte absichern können. Möglicherweise müssen sie Projekte umstrukturieren und/oder alternative Beschaffungen vornehmen. Die Auflagen zum KI-Einsatz sind teils mit erheblichem Aufwand verbunden, bieten aber auch Chancen. So sollen sie das Vertrauen in KI stärken und dadurch die Akzeptanz von der Technologie erhöhen.
Ansprechpartner:
Dr. Nicolas Sonder
Contact
