Fünf Empfehlungen für einen vorausschauenden und innovationsfreundlichen KI-Act
Nach der mit Spannung erwarteten Veröffentlichung des Vorschlags des Artificial Intelligence (AI) Act durch die Europäische Kommission Anfang des Jahres beginnen die EU-Politiker im Rat und im Europäischen Parlament mit der Arbeit an dem Text. Während sich der Rat bereits mit den wichtigsten inhaltlichen Fragen des Vorschlags befasst, wird erwartet, dass das Europäische Parlament die legislative Arbeit in den kommenden Wochen intensivieren wird, nachdem kürzlich eine Vereinbarung über die gemeinsame Zuständigkeit zwischen den Ausschüssen für Binnenmarkt und Recht getroffen wurde. In Zukunft wird der Gesetzgeber die entscheidende Aufgabe haben, ein Gesetz auszuarbeiten, das technologische Innovationen fördert und gleichzeitig die Bedenken im Zusammenhang mit einigen spezifischen Anwendungen von KI anspricht.
Als führender globaler Verfechter von Strategien, die Wettbewerb und Innovation weltweit fördern, unterstützt ITI viele Aspekte des Kommissionsvorschlags. Wir haben zur Debatte über den AI Act beigetragen mit detaillierten Bemerkungen (öffnet in einem neuen Tab) Der Vorschlag der Europäischen Kommission soll sicherstellen, dass das neue EU-KI-Gesetz zu einem zukunftssicheren und innovationsfördernden Instrument wird, das das Vertrauen in diese Schlüsseltechnologie erhöht. Um politische Entscheidungsträger bei ihrer Arbeit zu unterstützen, haben wir fünf wichtige Empfehlungen entwickelt:
1. Erstellen einer genauen Definition der künstlichen Intelligenz
Angesichts des Fehlens einer allgemein akzeptierten Definition von „künstlicher Intelligenz werden die politischen Entscheidungsträger die Hauptaufgabe haben, eine Definition von KI zu erstellen, die präzise und eindeutig ist. In der breiten Definition von KI im aktuellen Vorschlag könnten die Verweise auf logische und wissensbasierte Ansätze oder der Verweis auf statistische Ansätze unbeabsichtigt viele computergestützte Systeme in den Anwendungsbereich der Verordnung aufnehmen, die im Allgemeinen nicht als mit den klassischen Definitionen von KI vereinbar angesehen werden. Die politischen Entscheidungsträger sollten daher prüfen, ob sie diese Definition einschränken und traditionelle Software und Kontrollsysteme aus dem Anwendungsbereich der Verordnung ausschließen. Dies wird der Rechtssicherheit zugute kommen und die Einhaltung der Anforderungen des Vorschlags erleichtern.
2. Begrenzung des Umfangs risikoreicher KI-Anwendungen
Ein risikobasierter Ansatz ist der Schlüssel, um den Erfolg des KI-Gesetzes als Wegbereiter für Innovationen sicherzustellen. Zu diesem Zweck sollte das KI-Gesetz darauf abzielen, die Minderheit der KI-Anwendungen zu erfassen, die konkret ein hohes Risiko darstellen, ohne eine sich schnell entwickelnde Technologie zu ersticken, die ein enormes Potenzial bietet.
Der Vorschlag schlägt positiv vor, dass Hochrisiko-KI durch enge, wissenschaftliche Kriterien definiert werden sollte, die auf der Wahrscheinlichkeit und Schwere des potenziellen Schadens sowie einer Vielzahl potenziell betroffener Personen basieren. Die aktuelle Liste mit KI-Anwendungen mit hohem Risiko scheint jedoch Anwendungen von KI zu umfassen, die kein so hohes Risiko tragen, wie Back-Office-Anwendungen im Zusammenhang mit dem Management kritischer Infrastrukturen oder KI, die für die Bewertung der Leistung von Kandidaten bei Rekrutierungstests verwendet werden. Darüber hinaus ist für einige Anwendungen beim Zugang zu Schulungen, Schulungen oder der Bonitätsbewertung unklar, wie die Kriterien der Schwere des Schadens und der Pluralität der beteiligten Personen gelten würden. Dies alles sind zweifellos bedeutende Anwendungen, aber sie scheinen nicht die Hochrisikogrenze zu überschreiten, die auf diesen wissenschaftlichen Kriterien basiert. EU-Gesetzgeber sollten daher erwägen, die Liste der Anwendungen mit hohem Risiko einzugrenzen und zu präzisieren, um sicherzustellen, dass die Anzahl der gezielten KI-Anwendungen ihren außergewöhnlichen Charakter widerspiegelt.
3. Aufbau zielorientierter Anforderungen, um eine einfachere Umsetzung zu gewährleisten
Das KI-Gesetz sieht umfangreiche und vorschreibende Anforderungen für Data Governance, menschliche Aufsicht und Transparenz vor. Dieser Ansatz berücksichtigt nicht ausreichend die große Vielfalt der abgedeckten Anwendungen und Geschäftsmodelle – von Industriemaschinen bis hin zu Finanzdienstleistungssoftware –, was es Entwicklern und insbesondere kleineren Entwicklern erschwert, wenn nicht unmöglich macht, die Verpflichtungen umzusetzen.
Der Begriff „fehlerfreie Datensätze ist ein gutes Beispiel dafür, wo eine vorschreibende Anforderung mit einer Realität kollidiert, in der es nicht nur unmöglich ist, „fehlerfreie Daten sicherzustellen, sondern in einigen Fällen „Fehler für KI-Modelle nützlich sein können, um ihre Aufgaben besser zu erfüllen. In ähnlicher Weise können Anforderungen an die vorgeschriebene Transparenz, die Aufbewahrung von Aufzeichnungen und die menschliche Aufsicht für die Vielfalt der Unternehmen, die sich in ihrem Umfang befinden, schwierig sein, sie auf die gleiche Weise umzusetzen.
Es wäre praktischer, dass sich diese Anforderungen auf die Ziele konzentrieren, anstatt einen Prozess vorzuschreiben, d.h. Verpflichtungen festzulegen, um bestimmte Ergebnisse zu erzielen, ohne vorzuschreiben, wie ein bestimmtes Ziel erreicht werden soll. Dadurch wird sichergestellt, dass Anbieter, Nutzer und alle anderen relevanten Akteure in der Lage sind, die sinnvollsten und angemessensten Prozesse zur Einhaltung des KI-Gesetzes anzuwenden, ohne die Ziele der Verordnung zu schwächen.
4. Vertrauen in internationale Normen fördern
Globale Standards sind für die Industrie von grundlegender Bedeutung, um wichtige Governance-Aspekte der Technologie im Zusammenhang mit Datenschutz, Cybersicherheit und anderen Bereichen zu berücksichtigen und gleichzeitig die notwendige Interoperabilität einer inhärent globalen Technologie zu gewährleisten. Zu diesem Zweck sollte der KI-Gesetz so weit wie möglich sicherstellen, dass Anforderungen auf wirklich internationalen Standards beruhen, da die Weiterentwicklung von KI nach solchen Standards die Einhaltung regulatorischer Anforderungen gewährleisten würde.
Während die Arbeit an der KI-Normung in europäischen Normungsorganisationen stattfindet, findet sie auch in internationalen Gremien innerhalb und außerhalb Europas statt. Wir ermutigen die EU daher, den KI-Gesetz als Gelegenheit zu nutzen, um Elemente ihrer bestehenden Politiken zu überdenken, die so interpretiert wurden, dass sie sich auf harmonisierte europäische Standards verlassen – und nicht auf eine breitere Palette internationaler Standards – als primäres Mittel, um die Einhaltung der aufkommenden regulatorischen Anforderungen nachzuweisen.
In ähnlicher Weise könnten Bestimmungen im KI-Gesetz, die es der Kommission ermöglichen, technische Spezifikationen zu erstellen, wenn sie feststellt, dass keine einschlägigen Standards verfügbar sind, zu einer globalen Fragmentierung der Regulierung führen, die Instrumente für die EU-Regulierungsbehörden zur Bewertung der Einhaltung einschränken und die EU zu einer „Insel auf dem globalen KI-Markt machen.
Als Vorreiter und führend in der KI-Governance sollten die EU-Gesetzgeber einen vollständig internationalen Standardisierungsansatz verfolgen, der es anderen Gerichtsbarkeiten ermöglicht, diesem Beispiel in einer Weise zu folgen, die Innovationen nicht beeinträchtigt oder zu unnötigen Divergenzen führt. Um dies zu erreichen, wird die Koordinierung mit gleichgesinnten Partnern von entscheidender Bedeutung sein, beispielsweise im Rahmen des neuen Handels- und Technologierats EU-USA.
5. Mehr Akzeptanz der in Drittländern durchgeführten Tests
Die Konformitätsbewertung für KI ist ein neuer Bereich, für den es keine allgemein anerkannte Praxis oder etablierte Infrastruktur gibt. Dies wirft praktische und logistische Bedenken auf, wie Prüfstellen die im KI-Gesetz geforderte Konformitätsbewertung durchführen würden, insbesondere wenn die Liste der KI-Anwendungen, die einer Konformitätsbewertung durch Dritte unterliegen, erweitert werden sollte. Diese Probleme können zu Rückständen führen und die Verfügbarkeit von KI-fähigen Produkten und Dienstleistungen auf dem EU-Markt verringern.
Während der Vorschlag des KI-Gesetzes sich auf die Annahme von Tests bezieht, die in Drittländern in Anwesenheit eines nicht spezifizierten „Abkommens durchgeführt werden, ist es wichtig, dass ein solcher Mechanismus klargestellt und erweitert wird. Die Beschränkung der Konformitätsbewertung auf in der EU ansässige Stellen könnte zu einem ernsthaften Hindernis für eine reibungslose Einführung der Technologie werden und zu vergleichbaren Lokalisierungspraktiken in Drittländern führen.
Die politischen Entscheidungsträger der EU sollten daher versuchen, im KI-Gesetz innovative Wege für die Akzeptanz von Testergebnissen einzubauen, die von Teststellen mit Sitz außerhalb der EU entwickelt wurden. Dies wird dazu beitragen, die Regulierungskompatibilität zu erleichtern, ohne die Regulierungsaufsicht der europäischen Behörden zu beeinträchtigen.