ITI veröffentlicht Global Policy Principles for Enabling Transparency of AI Systems
WASHINGTON – Heute hat der globale Tech-Handelsverband ITI eine neue Politische Grundsätze zur Ermöglichung der Transparenz von KI-Systemen (öffnet in einem neuen Tab)Unterstützung bei der Information und Orientierung der Politikgestaltung. In seinen Prinzipien unterstreicht ITI, dass Transparenz ein entscheidender Teil der Entwicklung von verantwortlichen und vertrauenswürdigen KI-Systemen und der Vermeidung unbeabsichtigter Ergebnisse oder anderer schädlicher Auswirkungen ist. Auf höchster Ebene geht es bei Transparenz darum, klar zu sein, wie ein KI-System gebaut, betrieben und funktioniert. Bei guter Ausführung kann die KI-Transparenz dazu beitragen, die Ergebnisse zu analysieren und geeignete KI-Stakeholder zur Rechenschaft zu ziehen.
Unter anderem empfiehlt ITI politischen Entscheidungsträgern, die Nutzer zu stärken, indem sie Bestimmungen in die Gesetzgebung aufnehmen, die ausreichende Informationen liefern, um Entscheidungen eines KI-Systems zu verstehen, die sich negativ auf die Grundrechte der Nutzer auswirken können, und ihnen die Möglichkeit geben, solche Entscheidungen zu überprüfen und / oder anzufechten. ITI umreißt auch die Notwendigkeit, den Nutzern klar zu machen, wenn sie direkt mit einem KI-System interagieren.
"Transparenz von KI-Systemen war zu Recht ein Schwerpunkt für politische Entscheidungsträger in den USA und auf der ganzen Welt." sagte ITI Präsident und CEO Jason Oxman. "Vorschriften müssen das Risiko für die Nutzer effektiv mindern und gleichzeitig die Innovation von KI-Technologien erhalten und ihre Akzeptanz fördern." Die ITI Policy Principles for Enabling Transparency of AI Systems bieten einen klaren Leitfaden für politische Entscheidungsträger, um sich über KI-Systeme zu informieren und diese transparenter zu gestalten.
KI-Systeme bestehen aus Sätzen von Algorithmen, die lernen und sich weiterentwickeln können, während ein Algorithmus allein in der Regel einfacher ist und oft einen endlichen Satz von Anweisungen ausführt. ITI Politische Grundsätze zur Ermöglichung der Transparenz von KI-Systemen Der effektivste Weg, um die Politik in Bezug auf Transparenz anzugehen, besteht darin, Transparenzanforderungen auf spezifische, risikoreiche Anwendungen von KI-Systemen anzuwenden - bei denen ein negatives Ergebnis erhebliche Auswirkungen auf die Menschen haben könnte - insbesondere in Bezug auf Gesundheit, Sicherheit, Freiheit, Diskriminierung oder Menschenrechte.
ITI Politische Grundsätze zur Ermöglichung der Transparenz von KI-Systemen (öffnet in einem neuen Tab)Beratung der politischen Entscheidungsträger:
- Überlegen Sie, was das letztendliche Ziel der Transparenzanforderungen ist.
- Berücksichtigen Sie die beabsichtigte Zielgruppe von Transparenzanforderungen und an welchem Punkt des Lebenszyklus des KI-Systems sie gelten würden.
- Nehmen Sie einen risikobasierten Ansatz für Transparenz, wenn Sie Anforderungen berücksichtigen.
- Fügen Sie klare Definitionen hinzu, was mit Transparenz im Kontext einer Verordnung oder eines politischen Vorschlags gemeint ist.
- Bedenken Sie, dass es verschiedene Möglichkeiten gibt, Transparenz anzugehen und das Vertrauen zu verbessern, und dass Erklärbarkeit nur eine Komponente ist.
- Erwägen Sie, Bestimmungen in Rechtsvorschriften aufzunehmen, die den Nutzern ausreichende Informationen zur Verfügung stellen sollen, um Entscheidungen eines KI-Systems zu verstehen, die sich negativ auf ihre Grundrechte auswirken können, und den Nutzern die Möglichkeit geben, solche Entscheidungen zu überprüfen und/oder anzufechten.
- Stellen Sie sicher, dass Transparenzanforderungen Unternehmen nicht dazu verpflichten, sensible IP- oder Quellcodes preiszugeben oder anderweitig sensible individuelle Daten preiszugeben.
- Nutzen Sie freiwillige internationale Standards, um die Interoperabilität verschiedener KI-Transparenzanforderungen so weit wie möglich zu gewährleisten.
- Bedenken Sie, dass, wenn ein KI-System direkt mit einem Benutzer interagiert, diese Tatsache leicht auffindbar sein sollte und dass Offenlegungsanforderungen dazu beitragen können, dies zu erleichtern.
- Die Offenlegungsvorschriften sollten flexibel sein und es vermeiden, spezifische Informationen oder technische Details vorzuschreiben.
- Für die Offenlegung sollte nur der tatsächliche Deployer des KI-Systems verantwortlich sein.
Diese Prinzipien bauen auf ITI Global AI Policy Empfehlungen (öffnet in einem neuen Tab), veröffentlicht im Jahr 2021, die eine umfassende Reihe von politischen Empfehlungen für globale politische Entscheidungsträger bot, die Innovationen in der KI fördern und gleichzeitig spezifische Schäden angehen wollen.
Lesen Sie ITI’s Politische Grundsätze zur Ermöglichung der Transparenz von KI-Systemen Hier.
###