EU schwingt den AI Verbots-Hammer

Die Botschaft ist klar und befriedigend - am Papier.

Europa wird nicht zulassen, dass KI zu einem Instrument der Massenüberwachung oder sozialen Kontrolle wird.

Das Gesetz verbietet eine lange Liste schwammig definierter Praktiken - schädliche Manipulation, kontextübergreifendes Social Scoring, biometrische Fernidentifizierung in Echtzeit an öffentlich zugänglichen Orten für Strafverfolgungszwecke, Emotionserkennung am Arbeitsplatz und in Schulen, ungezieltes Abschöpfen von Gesichtsbildern, biometrische Kategorisierung, die geschützte Merkmale offenlegt, sowie Systeme, die nicht einvernehmliche intime Bilder identifizierbarer Personen erzeugen.

Die Anwendungen, für die KI tatsächlich sinnvoll ist - Grenzkontrolle, biometrischer Abgleich, Betrugserkennung, das Aufspüren von Menschen, die unter mehreren Identitäten reisen - werden als „hochriskant“ eingestuft. Natürlich wollen wir die Migrationsströme nicht allzu genau durchleuchten.

Aber Vorsicht vor den kommenden Ausnahmen.

Die Abfolge ist vorhersehbar:

1. Man verabschiedet eine Verordnung, die bei biometrischer Überwachung sehr streng aussieht.
2. Man baut die institutionellen Strukturen auf, die genau diese Werkzeuge benötigen werden.
3. Man entdeckt, dass die neuen Strukturen im Namen der Sicherheit „begrenzte, sorgfältig eingehegte“ Ausnahmen benötigen.
4. Man hält die moralische Sprache über Grundrechte aufrecht.

Während das Gesetz fertiggestellt wurde, hat dieselbe Kommission unter Ursula von der Leyen eine neue Europäische Sicherheitsstrategie, die operative Stärkung von Europol, einen weiteren Ausbau von Frontex und die Prüfung engerer nachrichtendienstlicher und analytischer Kapazitäten auf Kommissionsebene vorangetrieben - eine Art privater Geheimdienst.

Die Werkzeuge, die durch die Verordnung scheinbar eingeschränkt werden, sind genau jene Werkzeuge, die eine wachsende Sicherheitsarchitektur auf EU-Ebene irgendwann einsetzen müssen wird.

Die geplante Chatkontrolle ist das deutlichste aktuelle Beispiel - ohne KI ist sie unmöglich.

Wir erinnern uns an die größte digitale Erfindung der EU (nein, nicht den fest verbundenen Flaschendeckel) - das Cookie-Banner.

Cookie-Banner sollten den Bürgern eine echte Kontrolle über ihre persönlichen Daten geben. Stattdessen klickt inzwischen jeder Mensch auf „Alle akzeptieren“, während er versucht, die Öffnungszeiten eines Restaurants zu finden.

Der Rechenaufwand ist nicht unerheblich.

Eine Analyse schätzte, dass der Betrieb von Cookie-Einwilligungsbannern und ihrer Infrastruktur weltweit rund 10 Millionen kWh Strom pro Tag verbraucht. Allein die Europäer verbringen schätzungsweise 575 Millionen Stunden pro Jahr damit, sich mit diesen Abfragen herumzuschlagen.

Wir freuen uns schon auf KI-Transparenzhinweise, Risikokennzeichnungen und Warnungen wie „Sie interagieren jetzt mit einem Hochrisiko-KI-System“ an bestehende Cookie-Banner angeschraubt zu sehen.

KI ist ein Werkzeug. Werkzeuge sind hier um benutzt zu werden.

Die USA haben noch immer kein umfassendes Bundesgesetz für KI - nur einen Flickenteppich aus Vorschriften der Bundesstaaten und Dekreten, die überwiegend versuchen, nicht im Weg zu stehen. China reguliert bestimmte Anwendungen (generative Modelle, Deepfakes, Begleit-Bots, Agenten) durch gezielte Maßnahmen und Standards, nicht durch ein einziges großes horizontales Gesetz mit Risikostufen und Verboten.

Nur die EU trat heldenhaft vor und beschloss, einen detaillierten, feierlichen, risikobasierten und vagen Rahmen zu schaffen, der später alles bedeuten kann, was gerade zweckmäßig ist. Der Text ist neblig genug, um verschiedene Ausnahmen aufzunehmen. Der Text war nie dazu gedacht, die Verfasser selbst einzuschränken.

Unterdessen - hier, eine imaginäre erwachsene Frau. Vollständig fiktiv.