Die Trilog-Verhandlungen zur KI-Verordnung der EU sind in vollem Gange. Der DAV hat in diesem Zusammenhang eine Stellungnahme veröffentlicht. In diesem Beitrag fassen wir die die wichtigsten Aspekte und Empfehlungen zusammen dar.
Der Inhalt im Überblick
Mitwirkung von CSW
Rechtsanwältin und Fachanwältin für IT-Recht Isabell Conrad wirkte als Berichterstatterin und Mitglied im Gesetzgebungsausschuss Informationsrecht des DAV maßgeblich an der Stellungnahme mit. „Ohne die kompetente Mitwirkung meiner beiden Kollegen Dr. Alin Seegel und Nicolas Kötter wäre die Durchdringung dieser komplexen und hochaktuellen Materie aber so nicht möglich gewesen“, sagt Isabell Conrad.
Kernpunkte der Stellungnahme
Definition des Begriffs „KI-System“
Der Ausschuss begrüßt die Einschränkung des Parlaments, dass ein KI-System nur vorliegen soll, wenn das System mit einem gewissen Grad an Autonomie handelt. Jedoch sollten die Definitionen von KI-Systemen und Basismodell noch weiter präzisiert werden sollte, um zu vermeiden, dass die KI-Verordnung auch nicht KI-gestützte Software wie regelbasierte Algorithmen umfasst (S. 5).
Hochrisiko-KI-Systeme
Der Ausschuss begrüßt, dass die einseitige Befugnis der Kommission zur Aktualisierung der Liste der Hochrisiko-KI-Systeme gestrichen wurde und stattdessen Erwägungsgründe mit Kriterien für maschinelles Lernen und wissensbasierte Ansätze eingefügt wurden (S. 5-6).
Verhältnis zu bestehenden Gesetzen
Mit einer pauschalen Feststellung in der KI-Verordnung, dass die DSGVO unberührt bleibt, sind die immensen datenschutzrechtlichen Fragen bei Training, Verifikation, Tests und Einsatz von KI nicht zu lösen. Insbesondere für die datenschutzrechtliche Zulässigkeit von Zweckänderungen und entsprechende Informationspflichten gegenüber betroffenen Personen bei Entwicklung, Training, Verifikation und Testen von KI müsste Rechtssicherheit geschaffen werden. Soweit der KI-Verordnungsentwurf – richtigerweise – gerade im Hochrisikobereich eine Aufdeckung und Verhinderung von Bias zum Ziel hat, ist dies nicht ohne große Mengen an (häufig personenbezogenen) Daten bzw. Datenbanken möglich. Auch das Verhältnis zum Urheberrecht und anderen jüngst erlassenen Gesetzes zur digitalen Wirtschaft wie den Digital Services Act und demnächst auch dem Data Act sollten geklärt werden, um die Adressaten nicht alleine zu lassen mit schwierigen Abgrenzungsfragen (S. 13-15).
Regulierung von Basismodellen und KI-Systeme mit allgemeinem Verwendungszweck
Basismodelle haben seit Ende 2022 mit der Einführung von ChatGPT für Furore gesorgt. Der Gesetzgeber hat große Schwierigkeiten den ursprünglichen KI-Verordnungsentwurf auf diese Anwendungsfälle anzupassen, weil dieser technologieneutral gestaltet war und auf die Einsatzgebiete der KI-Systeme abstellte, um das Risiko zu bestimmen. Dieser Ansatz ist aber unpassend für Basismodelle, weil sie für vielfältige „Downstream“-Anwendungen eingesetzt werden können. Der Ausschuss fordert klar definierte Begrifflichkeiten und plädiert für die Beibehaltung eines risikobasierten und technologieneutralen Ansatzes (S. 6-11). Ein Lösungsansatz besteht in Dokumentations- und Transparenzanforderungen an Basismodelle im Hinblick auf nicht ausdrücklich ausgeschlossene Verwendungszwecke und vorhersehbare Risiken.
Aufsichtsrechtliche Genehmigungserfordernisse
Der Ausschuss empfiehlt, aufsichtsrechtliche Genehmigungserfordernisse auf ein Minimum zu beschränken. Er warnt vor der Gefahr einer Überforderung der Behörden, die zu Engpässen bei der Entwicklung und Markteinführung von KI-Systemen führen könnte. Man sollte hier aus den Erfahrungen bei Einführung der DSGVO lernen (S. 15-16).
Strategischer Wettbewerb, Schutz der Grundrechte und Innovationsförderung
KI und insbesondere Basismodelle werden eine entscheidende Rolle im strategischen Wettbewerb mit autokratischen Staaten wie China spielen. Der Ausschuss betont die Bedeutung des Grundrechtsschutzes bei der Nutzung von KI, aber warnt vor der Gefahr von Überregulierung und Innovationshemmnissen. Vor diesem Hintergrund regt er die Förderung von KI-Reallaboren an, als Experimentierräume, in denen Unternehmen und Forschungseinrichtungen unter realen Bedingungen KI-Lösungen testen können, um die praktische Anwendung und Entwicklung von KI-Technologien zu beschleunigen (S. 16-17).
Fazit – Work in Progress
Die Stellungnahme des Deutschen Anwaltvereins bietet wichtige Einblicke und Empfehlungen zur geplanten KI-Verordnung der EU. Sie unterstreicht, dass es noch viel Klärungsbedarf bei der Regulierung von KI gibt.
Wir hoffen, Ihnen mit diesem Blogbeitrag einen Einblick in die Stellungnahme des Gesetzgebungsausschusses Informationsrecht des Deutschen Anwaltvereins gegeben zu haben. Für weitere Informationen empfehlen wir die Lektüre der vollständigen Stellungnahme:
Weiterführende Links
Newsroom – Deutscher Anwaltverein: SN 74/23: Trilog KI-Verordnung
Überblick über alle aktuell verfügbaren Gesetzesentwürfe zur KI-Verordnung: https://www.kaizenner.eu/post/aiact-part3
