Was ist ein KI-System nach der EU-KI-Verordnung?

Ein zentraler – sogar der zentrale – Begriff der EU-KI-Verordnung (KI-VO) ist der Begriff „KI-System“. Er ist entscheidend für die Frage, ob der sachliche Anwendungsbereich der KI-VO eröffnet ist. Die Definition wird aber als unbestimmt und kaum unterscheidungskräftig kritisiert. Wir schauen uns an, warum.

Die Definition

Nach Art. 3 Nr. 1 KI-VO ist ein KI-System (1) ein maschinengestütztes System, (2) das für einen in unterschiedliche Grade autonomen Betrieb ausgelegt ist, (3) das nach seiner Betriebsaufnahme anpassungsfähig sein kann, (4) das aus den erhaltenen Eingaben (5) für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, und (6) die physischen oder virtuellen Umgebungen beeinflussen können. (Nummerierung von Autor hinzugefügt)

1. Maschinenbasiert ist: Das bedeutet, dass das KI-System technisch auf Computern ausgeführt wird. Dies alleine grenzt es jedoch nicht von normaler Software ab.
2. Autonom arbeitet: KI-Systeme können ohne menschliches Zutun agieren, was von einigen als entscheidendes Merkmal angesehen wird. Allerdings ist dieses Kriterium missverständlich, da einfache Software wie ein Kühlschrank, der automatisch Produkte nachbestellt, ebenfalls autonom agiert. Die Formulierung „unterschiedlicher Grad“ an Autonomie verwässert diese Voraussetzung, weil dem Wortlaut nach auch ein minimaler Grad an Autonomie ausreichen muss. Dann ist aber kaum ein Unterschied zu „normalen“ Algorithmen mehr gegeben.
3. Anpassungsfähig sein kann: Ein KI-System kann nach der Inbetriebnahme aus Erfahrungen lernen. Dennoch muss ein KI-System laut Gesetz nicht zwingend diese Fähigkeit besitzen, daher ist es kein unterscheidungskräftiges Merkmal.
4. Ergebnisse ableitet: KI-Systeme erstellen Vorhersagen, Empfehlungen oder Entscheidungen basierend auf Eingaben. Auch hier gibt es keinen wirklichen Unterschied zu „normaler“ Software. Mehr Klarheit schafft der Gesetzgeber in Erwägungsgrund 12 S. 4 -6 KI-VO, wonach mit der Fähigkeit zur Ableitung solche Systeme gemeint sind, die Modelle oder Algorithmen oder beides aus Eingaben ableiten können („KI-Training“ wo ein System aus Daten lernt), und dass die Fähigkeit eines KI‑Systems zur Ableitung über einfache Datenverarbeitung hinausgehe.
5. Ziele verfolgt: Diese können explizit (klar definiert, z. B. Verkehrsregeln für autonome Autos) oder implizit (abgeleitet, z. B. Unfallvermeidung) sein. Auch das grenzt KI aber nicht effektiv ab.
6. Umgebungen beeinflusst: Dies umfasst Auswirkungen in physischer und virtueller Umgebung. Es ist weit zu verstehen und erfasst auch mittelbare Auswirkung wie bspw. die emotionale Beeinflussung eines Menschen, bspw. eine emotionale Reaktion auf Chatbots. Das Merkmal ist jedoch ebenfalls wenig trennscharf, weil jede Softwareanwendung ihr Umfeld beeinflussen kann.

Warum ist diese Definition umstritten?

Die genannten Merkmale sind bewusst breit und technologieoffen gefasst, um auch „zukunftsfest“ zu sein, d.h. auch neue Technologien abzudecken. Dies führt jedoch zu Abgrenzungsschwierigkeiten, da auch „normale“ Software unter die Merkmale der Definition fallen könnten. Um Missverständnisse zu vermeiden, gibt der Gesetzgeber in Erwägungsgrund 12 zusätzliche Hinweise zur Auslegung. Für die praktische Anwendung der Definition werden die Leitlinien der europäische Kommission, welche  gemäß Art. 96 Abs. 1 lit f KI-VO geschaffen werden sollen, mehr Rechtssicherheit bringen.

Fazit: Was bedeutet das für Unternehmen?

Bis detaillierte Leitlinien vorliegen, bleibt die Definition schwer greifbar. Es empfiehlt sich, technische Systeme frühzeitig rechtlich prüfen zu lassen, um Klarheit zu erhalten. Bis Leitlinien vorliegen, können sich Adressaten an den der Definition zugrundeliegenden, aber nicht rechtsverbindlichen Leitfaden der OECD orientieren, der jedoch auch viele der oben geschilderten Schwachpunkte hat.

Schnell gelesen:

Ein „KI-System“ ist maschinenbasierte Software, die autonom agieren und Umgebungen beeinflussen kann. Die Definition ist sehr breit gefasst und führt zu Unsicherheiten bei der Abgrenzung. Praktische Beispiele verdeutlichen die Bandbreite: Von Chatbots bis zu Empfehlungsalgorithmen. Unternehmen sollten sich frühzeitig mit der Verordnung vertraut machen und externe Unterstützung einholen.