Fünf Empfehlungen für den EU-Verhaltenskodex für GPAI-Modelle
Am 14. November verteilte das EU-KI-Büro den ersten Entwurf des EU-KI-Gesetzes (Code of Practice) für universelle KI-Modelle (GPAI). Der von einer Expertengruppe entworfene Kodex soll Entwicklern von GPAI-Modellen – bekannt als Anbieter nach dem AI Act – helfen, die Einhaltung ihrer Verpflichtungen aus dem AI Act nachzuweisen. ITI vertritt die Technologiebranche in der Redaktionsgruppe und hat am 28. November schriftliche Rückmeldungen zum ersten Entwurf des Kodex eingereicht.
Der Kodex wird ein Erfolg sein, wenn er von GPAI-Modellanbietern als Referenz für die Einhaltung der spezifischen gesetzlichen Anforderungen des KI-Gesetzes verwendet wird.
Dazu sollte der nächste Entwurf des Kodex angesichts des sich schnell entwickelnden Stands der Technik verhältnismäßig und flexibel sein. Da der Kodex zur Umsetzung des KI-Gesetzes gedacht ist, muss er strikt an den Rechtstext der Verordnung angepasst werden und einen umsetzbaren Rahmen für GPAI-Modellanbieter bieten, um die Einhaltung des KI-Gesetzes nachzuweisen. Das KI-Büro sollte absichtlich eine enge Beteiligung am Entwurf und an der Prüfung der Konsultationsantworten verfolgen, um sicherzustellen, dass der Kodex diesen praktischen Bedürfnissen entspricht.
Hier sind 5 wichtige Empfehlungen, um dieses wichtige Ziel zu erreichen:
- Bleiben Sie im Anwendungsbereich des AI Act
Der aktuelle Entwurf enthält verschiedene Maßnahmen, die im KI-Gesetz nicht auftauchen. So treten beispielsweise mehrfach Anforderungen an die verpflichtende Beteiligung Dritter an Risikoevaluierungen und -tests auf, die zuvor von den Mitgesetzgebern abgelehnt wurden – wie Maßnahmen 13.7 oder Maßnahme 17. Einige der Urheberrechtsanforderungen – wie die Maßnahmen 3.2 und 3.3 zur Downstream- und Upstream-Compliance – fallen ebenfalls nicht in den Anwendungsbereich des KI-Gesetzes.
Seit Der Kodex soll ausschließlich die Anwendung des KI-Gesetzes erleichtern. die Anforderungen an die Anbieter von GPAI-Modellen, sollte ihr Anwendungsbereich innerhalb dieser Grenzen bleiben. Dies ist für die Rechtssicherheit und die breite Annahme des Kodex von grundlegender Bedeutung. Eine Überschreitung des Anwendungsbereichs des Gesetzes würde die Einhaltung des Kodex erschweren und nicht mit dem von den Mitgesetzgebern vereinbarten regulatorischen Gleichgewicht in Einklang stehen.
- Ausgewogene und sinnvolle Transparenzanforderungen
Die Maßnahmen 1 und 2 des Kodex enthalten Einzelheiten zu den Transparenzanforderungen für GPAI-Modellanbieter bzw. gegenüber Regulierungsbehörden (KI-Büro) und nachgelagerten Anbietern (d. h. Unternehmen, die das Modell zum Aufbau eines bestimmten KI-Systems verwenden und Informationen über das Modell benötigen, um Risikobewertungen durchzuführen oder mögliche regulatorische Anforderungen zu erfüllen).
Wenn es um Transparenz gegenüber dem AI Office geht, wird es wichtig sein zur Gewährleistung der Verfahrensgarantien für Informationsersuchen und angemessener Schutz von Geschäftsgeheimnissen. Offenlegungen müssen auch verhältnismäßig und machbar sein, insbesondere in Bereichen wie Energiemessung oder Berechnung - wo standardisierte Praktiken noch nicht verfügbar sind.
Wenn es um Informationen für nachgelagerte Anbieter geht, wird es Entscheidend, um die richtige Balance zwischen Detail und Machbarkeit zu finden. Einerseits benötigen nachgelagerte Anbieter ausreichend detaillierte und umsetzbare Informationen, um ihre Entscheidungsfindung zu unterstützen. Andererseits könnte eine übermäßige Dokumentation oder Offenlegung für Modellanbieter belastend sein, Geschäftsgeheimnisse verletzen und die Modellsicherheit gefährden.
- Eine klare Taxonomie systemischer Risiken
Der Entwurf des Kodex enthält eine Taxonomie der systemischen Risiken, die Anbieter bestimmter GPAI-Modelle bei ihren Risikobewertungen und -minderungen gemäß Artikel 55 des KI-Gesetzes berücksichtigen müssen.
GPAI-Anbieter müssen diese Taxonomie spezifisch und klar genug für eine effektive Politikentwicklung, -messung und -minderung sein. Mangelnde Spezifität kann zu einer fehlerhaften Priorisierung bestimmter Risiken und zu enormen Ressourceninvestitionen in einem breiten Spektrum vernachlässigbarer oder unwahrscheinlicher Risiken führen, was die Risikomanagementbemühungen von Modellanbietern erschwert.
Aus diesem Grund sollten breite Konzepte und Risiken wie „Überzeugung und Manipulation“ oder „groß angelegte negative Auswirkungen auf die Gesellschaft als Ganzes“ vermieden oder im nächsten Entwurf spezifiziert werden.
- Durchführbare Anforderungen an die Risikobewertung und -minderung
Der Kodex enthält detaillierte Anforderungen für die Bewertung und Minderung von Systemrisiken im Zusammenhang mit bestimmten GPAI-Modellen.
Der nächste Entwurf sollte explizit die Grenzen der Risikobewertung auf Modellebene anerkennens und Minderungsmaßnahmen. Da das Risiko in hohem Maße kontextabhängig ist und angesichts der breiten Anwendbarkeit des GPAI-Modells können Auswertungen und Minderungsmaßnahmen für generische Daten auf Modellebene spezifische Risiken im Zusammenhang mit der Verwendung eines Modells in verschiedenen Kontexten oder spezifischen KI-Systemen nicht antizipieren und mindern.
Aus diesem Grund wären vorschreibende Maßnahmen, die die Ermittlung spezifischer Risiken auf Bereitstellungsebene (wie Maßnahme 9), die Bewertung von Risiken auf Systemebene auf Modellebene (wie Maßnahme 10.5) oder die umfassende Überwachung des Modells nach dem Einsatz (Maßnahme 11.4) erfordern, sehr aufwendig und in vielen Fällen nicht durchführbar.
- Verbesserung der Fristen für die Konsultation der Interessenträger
Die kurze Konsultationszeit für den ersten Entwurf des Kodex hat es vielen Branchenführern – insbesondere solchen mit komplexen Anwendungsfällen und Lieferketten – schwer gemacht, den Entwurf aussagekräftig zu bewerten.
Während die Ausarbeitung des Kodex zwangsläufig den ehrgeizigen Zeitplänen des KI-Gesetzes folgen muss, ist ein sinnvoller Dialog mit der Industrie von entscheidender Bedeutung, um sicherzustellen, dass der Kodex umsetzbar ist und den Stand der Technik widerspiegelt. Nachfolgende Redaktionsrunden sollten dies berücksichtigen und ausreichend Zeit und Vorbereitung ermöglichen.
Weg nach vorne...
Die Berücksichtigung dieser fünf Punkte im nächsten Entwurf des Kodex wird wesentlich sein, damit der Kodex seinem ursprünglichen Zweck treu bleibt – wie von den Mitgesetzgebern beabsichtigt. Dies soll die Einhaltung des KI-Gesetzes für GPAI-Modellanbieter bei Fehlen relevanter Standards erleichtern und gleichzeitig Flexibilität für die Entstehung und Entwicklung dieser im Entstehen begriffenen Technologie ermöglichen.