Regulierung von GPAI-Modellen: Ein Überblick

Neben den Regelungen für „KI-System“ enthält die KI-Verordnung Regelungen von GPAI-Modellen „KI-Modelle mit allgemeinem Verwendungszweck“/“General Purpose AI-Models“. Doch warum eigentlich?

Die KI-Verordnung: Ein Mischwesen

Einerseits enthält die KI-Verordnung systembezogene Regeln, die nach einem Produktsicherheitsansatz vorrangig den Endnutzer schützen sollen (vgl. Art. 1 KI-VO und Art. 2 KI-VO). Andererseits enthält sie in Kapitel V (Art. 51-56) modellbezogene Vorgaben, die an einem früheren Punkt in der Wertschöpfungskette anknüpfen („an der Wurzel“) und nachfolgenden KI-System-Anbietern ausreichend Informationen an die Hand geben sollen, damit sie ihre eigenen systembezogenen Pflichten erfüllen können. Außerdem enthält sie in Abschnitt 5 von Kapitel IX (Art. 88-94) und in Art. 101 modellbezogene Regeln zur Aufsicht und Sanktionen. Nur in wenigen Vorschriften, wie etwa in Art. 2 Abs. 6 und Abs. 8 KI-VO, werden KI-Systeme und KI-Modelle gemeinsam adressiert.

Warum gibt es Regelungen zu GPAI-Modellen?

Aber warum werden KI-Systeme und GPAI-Modelle gesondert reguliert?

Der Grund liegt in der Entstehungsgeschichte der KI-Verordnung: Die Regelungen zu GPAI-Modellen sind erst im Laufe des Gesetzgebungsprozesses in die KI-Verordnung aufgenommen worden. Der ursprüngliche Entwurf der Europäischen Kommission sah nur systembezogene Regelungen vor.

Hintergrund war, dass die Kommission einen rein risikobasierten Ansatz verfolgte, der die unterschiedlichen Risiken, die von KI-Systemen ausgehen können, in den Mittelpunkt stellte. Die Risikobewertung knüpfte an den Verwendungszweck und den Kontext an, in dem ein KI-System eingesetzt werden sollte. Dabei wurden insbesondere die potenziellen Auswirkungen des KI-Systems auf Grundrechte, Sicherheit und Gesundheit berücksichtigt. KI-Systeme, die in sensiblen Bereichen wie Strafverfolgung, Justiz, Bildung, Beschäftigung oder Gesundheitswesen eingesetzt werden, wurden als besonders kritisch eingestuft und entsprechend verboten oder als „hochriskant“ besonders stark reguliert.

Anlass für die modellbezogenen Regelungen war die Veröffentlichung von ChatGPT Ende 2022. Denn große Sprachmodelle, wie sie ChatGPT zugrunde liegen, lassen sich jedoch für eine schier endlose Liste von Zwecken einsetzen: Von der Erstellung von Kochrezepten über die Auswertung von Bewerbungen bis zur Erstellung und Korrektur von Schulaufgaben. Die neue Art von KI ließ sich mit dem zweckgebundenen Regulierungsansatz nicht mehr erfassen. ChatGPT war also alles und nichts zugleich. Vom harmlosen Ghostwriter für Witze bis zum Ghostwriter in äußerst sensiblen Bereichen wie der Justiz.

Der Gesetzgeber realisierte, dass er drohte, den neuesten Trend im Bereich Künstlicher Intelligenz zu verschlafen. Das Europäische Parlament schlug daher in seinem Entwurf der KI-VO eine Regulierung von sog. Basismodellen vor. Diese Regelungen wurden jedoch stark kritisiert und waren einer der größten Zankäpfel in den Trilogverhandlungen zwischen Parlament, Kommission und Rat. Letztendlich einigte man sich auf den Begriff GPAI-Modell und die oben genannten Regelungen in der KI-Verordnung.

Was ist ein GPAI-Modell?

Gemäß Art. 3 Nr. 63 KI- VO ist ein GPAI-Modell ein KI-Modell, das

1. mit einer großen Datenmenge und
2. Techniken des selbstüberwachten Lernens trainiert wurde,
3. eine erhebliche allgemeine Verwendbarkeit aufweist,
4. in der Lage ist, ein breites Spektrum unterschiedlicher Aufgaben kompetent auszuführen und
5. in eine Vielzahl von nachgelagerten KI-Systeme integriert werden kann.

Der Begriff KI-Modell wird nicht definiert, sondern vom Gesetzgeber als bekannt vorausgesetzt, etwa in Art. 2 Nr. 6, 8 und Art. 3 Nr. 68 KI-VO. Der Begriff „GPAI-Modell“ wurde bewusst dehnbar formuliert, um zukunftssicher unterwegs zu sein. Er soll nicht auf die aktuell vorherrschenden großen Sprachmodelle beschränkt sein, sondern auch künftige Technologien umfassen. Die ausschlaggebende Eigenschaft ist, dass es sich in eine Vielzahl von nachgelagerten Systemen oder Anwendungen integrieren lässt. Die Art und Weise, wie das Modell auf den Markt gebracht wird, ist unerheblich. Es kann über APIs, Herunterladen oder Programmbibliotheken bereitgestellt werden (vgl. Erwägungsgrund 97 KI-VO).

Das Verhältnis zu KI-Systemen

KI‑Modelle sind in der Regel in KI‑Systeme integriert. Obwohl KI‑Modelle deren wesentliche Komponenten von KI‑Systemen sind, stellen sie für sich genommen noch keine KI‑Systeme dar. Damit KI‑Modelle zu KI‑Systemen werden, ist die Hinzufügung weiterer Komponenten, zum Beispiel einer Nutzerschnittstelle, erforderlich (vgl. Erwägungsgrund 97 KI-VO).

Bespiel:

Der IT-Dienstleister „ChatGenius“ entwickelt Chatbots, die Unternehmen oder Behörden auf ihren Webseiten oder Apps nutzen können. Zur Beantwortung von Anfragen nutzt „ChatGenius“ große Sprachmodelle, die von Microsoft im Rahmen der Azure OpenAI Services bereitgestellt werden. Zur Ermöglichung von Nutzerinteraktion erstellt der IT-Dienstleister ein Chatinterface. Bei einer Anfrage werden wird eine API-Abfrage an ein OpenAI-Modell in der Azure Cloud gesendet, das die Antwort generiert und zurück liefert. Die Azure OpenAI-Modelle sind GPAI-Modelle, aber erst der fertige Chatbot auf der Website eines Kunden ist ein KI-System gem. Art. 3 Nr. 1 KI-Verordnung.