ITI bietet Empfehlungen an NIST zu AI Red-Teaming, Stakeholder-Engagement und Normenentwicklung
WASHINGTON – Heute hat der globale Technologie-Handelsverband ITI auf die Anfrage des National Institute of Standards and Technology (NIST) nach Informationen in Bezug auf die Aufgaben von NIST reagiert. US-Präsident Bidens Executive Order über sichere, sichere und vertrauenswürdige künstliche Intelligenz.
In seiner Bemerkungen, empfiehlt ITI, dass:
- NIST arbeitet mit internationalen Partnern zusammen und entwickelt ein generatives AI Risk Management Framework (RMF), um die Angleichung von Ansätzen über Grenzen hinweg zu verbessern, einschließlich der Nutzung internationaler Standards;
- Berücksichtigen Sie die wichtige Rolle von Entwicklern und Deployern sowie anderen im gesamten KI-Ökosystem bei der Förderung der Transparenz für generative KI-Systeme;
- Gewährleistung, dass Bewertung und Auditierung auf das Risikoniveau eines KI-Systems abgestimmt sind;
- Erkennen Sie an, dass sich das Red-Teaming im Bereich Cybersicherheit von dem AI-Red-Teaming unterscheidet, unterscheiden Sie zwischen Red-Teaming eines AI-Modells und Red-Teaming eines AI-Systems und vermeiden Sie es, Red-Teaming als Sammellösung für das Risikomanagement zu betrachten.
- einen flexiblen und risikobasierten Ansatz in Betracht ziehen, der die Verwendung von Authentifizierungstechniken für mehrere Inhalte ermöglicht, die dem Risiko- und Anwendungsfall angemessen sind, und
- Bei der Entwicklung eines globalen Plans für die Entwicklung und das Engagement von KI-Standards sollten Sie die internationale Konsistenz so weit wie möglich wahren und weiterhin die Bedeutung des Engagements von Stakeholdern in Normungsgremien anerkennen.
"Wir glauben, dass ein generatives AI RMF oder Profil, Standards und Richtlinien für AI Red-Teaming und Modellbewertung sowie ein Plan zur Beteiligung und Förderung der Entwicklung internationaler Standards wesentlich sind, um die Entwicklung und den Einsatz vertrauenswürdiger KI voranzutreiben." Wir freuen uns darauf, weiterhin mit NIST zusammenzuarbeiten, während sie diese Bemühungen vorantreiben und NIST ermutigen, ITI als Ressource zu betrachten.TI schrieb in seinen Kommentaren.
Lesen Sie die vollständigen Kommentare von ITI Hier.
ITI hat bekräftigt, dass eine sichere und verantwortungsvolle KI-Entwicklung und -Bereitstellung auf Vertrauen, Transparenz, Ethik und Zusammenarbeit zwischen Regierung, Industrie, Zivilgesellschaft und Wissenschaft beruhen muss. INCITS, eine Tochtergesellschaft von ITI, fungiert als technische Beratergruppe der USA für das internationale Normungsgremium, das kürzlich einen Standard für das Management der Risiken und Chancen von KI veröffentlicht hat. Dieser Managementsystemstandard unterstützt verbesserte Qualität, Sicherheit, Rückverfolgbarkeit, Transparenz und Zuverlässigkeit von KI-Anwendungen.
Im Januar enthüllte ITI Ein neuer Leitfaden für globale Entscheidungsträger, Authentifizierung von AI-generierten Inhalten: Erforschung von Risiken, Techniken und politischen Empfehlungen, Ziel ist es, die dringende Notwendigkeit der Authentifizierung von KI-generierten Inhalten, einschließlich Chatbots, Bild- und Audiogeneratoren, zu erfüllen.