KI-Kontrolle: Der EU AI Act – worum geht’s?

Es gibt wieder eine Portion Wissen zum Mitnehmen und Angeben. Hast du schon einmal vom „EU AI Act“ gehört?

Künstliche Intelligenz ist eine der größten technologischen Fortschritte des 21.  Jahrhunderts. Ob sie nun die Lösung aller irdischen Probleme oder das Ende der Zivilisation ist, wie wir sie kennen – die Wahrheit liegt wahrscheinlich irgendwo dazwischen. Klar ist jedoch, dass sich solch ein mächtiges Werkzeug nicht im gesetzesleeren Raum bewegen darf. Hier kommt die Europäische Kommission ins Spiel: Schon 2021 schlug sie den EU AI Act vor, der nun im Jahr 2024 veröffentlicht wurde und einige grundlegende Regeln festlegt.

Grundsätzlich werden in der Verordnung KI-Systeme in drei Kategorien eingeteilt. Da sind zum einen Systeme mit unannehmbarem Risiko. Deren Bereitstellung ist untersagt, das Verbot trat im Februar 2025 in Kraft. Dazu zählen manipulierende Intelligenzen, ungezielte Überwachung des öffentlichen Raums, aber auch sogenanntes Social Scoring: Systeme, die Personen auf Basis ihres Verhaltens klassifizieren und damit bestimmte Gruppen systematisch benachteiligen. Die biometrische Identifizierung von Personen ist ebenfalls untersagt, jedoch mit Ausnahmen. So darf diese angewendet werden, sobald der entstehende Schaden ohne den Einsatz von KI höher wäre, was beispielsweise bei schweren Straftaten der Fall wäre. Zu diesem Zweck müssen hohe bürokratische Hürden überwunden werden, wie die Folgenabschätzung von Grundrechten, Registrierung in der EU-Datenbank – und die Genehmigung durch die zuständige Justizbehörde braucht es ebenfalls.

Als zweite Kategorie werden sogenannte Hochrisiko-Programme genannt. Davon spricht man, sobald KI in kritische Infrastruktur eingebaut werden soll oder persönliche Profile erstellt. Diese Systeme unterliegen strengen Auflagen: Transparenzpflicht, Gebrauchsanweisungen, menschliche Aufsicht und vieles mehr. Im Gegensatz dazu steht die letzte Kategorie: Systeme mit begrenztem oder minimalem Risiko. Chatbots, Deepfake-Generatoren oder Spamfilter: Solche Systeme müssen KI-generierte Inhalte kenntlich machen, mehr nicht.

Überprüft werden die Auflagen vom KI-Büro der Europäischen Kommission. Die Strafen bei Nichteinhaltung sind empfindlich – wir sprechen hier von drei Prozent des weltweiten Jahresumsatzes, höchstens aber 15 Mio. Euro. Daher der Tipp: Betreibt besser keine manipulativen KIs.

Wo wir schon dabei sind: Was bedeutet diese Verordnung eigentlich für die Nutzenden? Antwort: Quasi nichts. Wer in einem Unternehmen arbeitest, das Künstliche Intelligenz integriert hat, wird ab Februar verpflichtende Schulungen besuchen müssen, in denen der Umgang mit den Systemen gelehrt wird. Ansonsten muss jeder und jede du KI-Content natürlich weiterhin als solchen kennzeichnen.