Einigung auf gesetzliche Regeln für KI in Europa ( AL Mag. (FH) Reinhard Haider, E-Government-Beauftragter | 09.02.2024 10:43:13 )E-Government – Vom und für Praktiker – Februar 2024
Einigung auf gesetzliche Regeln für KI in Europa
Wenn sich das Europaparlament, EU-Kommission und EU-Mitgliedsstaaten zu einem Thema einig sind und EU-Kommissionspräsidentin Ursula von der Leyen zu einer Abschlusserklärung ausrückt, dann muss es um ein wichtiges Thema gehen: Die Einigung von Europa auf die Rahmenbedingungen für die Anwendung der Künstlichen Intelligenz, genannt der „AI Act der Europäischen Union“, also das KI-Gesetz für Europa.
So geschehen im Dezember 2023. Der AI-Act ist ein rechtliches Rahmenwerk für die Entwicklung von künstlicher Intelligenz, der die Menschen vertrauen könnten. Zusätzlich werden „Sicherheit und Grundrechte von Menschen und Unternehmen“ geschützt. So die Ankündigung, denn das Werk existiert derzeit nur als Verordnungsentwurf und soll frühestens 2025 in Kraft treten.
Der AI-Act der EU verfolgt einen risikobasierten Ansatz, der je nach potenziellen Auswirkungen der KI-Systeme auf die Gesundheit, Sicherheit und Grundrechte der Menschen unterschiedliche Anforderungen und Verbote vorsieht. Er gilt als weltweit erste umfassende Regulierung von KI.
Die risikobasierten 4 Regeln:
- KI-Systeme, die ein inakzeptables Risiko darstellen, wie z.B. kognitive Verhaltensmanipulation, Social-Scoring oder biometrische Fernidentifizierung in Echtzeit, sind grundsätzlich verboten.
- KI-Systeme, die ein hohes Risiko darstellen, wie z.B. biometrische Identifizierung, kritische Infrastrukturen, Bildung, Beschäftigung, Strafverfolgung oder Migration, müssen strenge Anforderungen erfüllen, wie z.B. eine Folgenabschätzung, eine Qualitätskontrolle, eine menschliche Aufsicht und eine Transparenzpflicht.
- KI-Systeme, die ein geringes Risiko darstellen, wie z.B. Chatbots, Filter oder Empfehlungssysteme, müssen dem Nutzern klar anzeigen, dass sie mit einer KI interagieren.
- KI-Systeme, die ein minimales Risiko darstellen, wie z.B. Spiele oder Spielzeug, sind von den Vorschriften ausgenommen, um die Innovation zu fördern.
Konkret verboten sind z.B. kognitive Verhaltensmanipulation (jede Form der Beeinflussung, die versucht, das Denken, Fühlen oder Handeln einer Person oder einer bestimmten Gruppe von Personen zu verändern, indem sie deren Schwächen oder Bedürfnisse ausnutzt), vorausschauende Polizeiarbeit („Predictive Policing“), Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen und Sozialkreditsysteme. Biometrische Fernidentifizierungssysteme wie Gesichtserkennung werden, mit einigen begrenzten Ausnahmen, ebenfalls verboten.
Die EU-Gesetzgeber beabsichtigen aber auch, Investitionen und Innovationen im Bereich der KI in der EU zu fördern und die Entwicklung eines Binnenmarktes für KI-Anwendungen zu erleichtern.
Meine Meinung:
Auch wenn Strafen in Millionenhöhe angedroht werden, ist die Investition in den Menschen wohl die wichtigste: Grundschulen die eine Basis für das Verständnis der IT und KI legen, Mittel- und Berufsschulen die Medienkompetenz forcieren und den Umgang mit KI lehren sowie im Studium die Integration in allen Fächern, wie man mit KI kreativ und sicher umgeht. Auch innerhalb der Verwaltung müssen Chancen und Risiken der neuen Technologie sehr rasch evaluiert und in die Schulungspläne eingebaut werden.
Antwort verfassen