ITI sendet NIST-Empfehlungen zur Weiterentwicklung des AI-Sicherheits- und Risikomanagements
WASHINGTON – Heute globaler Tech-Handelsverband ITI bot Einblicke, wie die US-Regierung KI-Sicherheit, Risikomanagement und verantwortungsvolle Entwicklung vorantreiben kann und Einsatz als Reaktion auf die Konsultation des National Institute of Standards and Technology (NIST) zum AI Safety Institute (AISI), Umgang mit Missbrauchsrisiken für Dual Use Foundation Modelle.
Foundation-modelle sind eine art ki, die alltägliche tools wie internetsuche, fotobearbeitung, Übersetzung, ridesharing und chatbots unterstützt. Sie haben auch das Potenzial, größere Probleme zu lösen, wie die Verkürzung der Forschungs- und Entwicklungszyklen in der Medizin und die Verbesserung des Zugangs zu Bildung.
"Um die kritische KI-Sicherheitsarbeit voranzutreiben, müssen die Interessengruppen im gesamten KI-Ökosystem ein konsistentes Verständnis der Missbrauchsrisiken und deren Bewältigung haben, insbesondere wenn sie sich weiterentwickeln." sagte ITI Vice President von Policy Courtney Lang. "Durch die Einbeziehung des Feedbacks der Technologiebranche kann NIST sein Leitfadens stärken und ein Spielbuch für Interessengruppen bereitstellen, das Konsistenz gewährleistet, die Rechenschaftspflicht stärkt und Risiken für Verbraucher und Unternehmen mindert."
Aufbau der politischen Empfehlungen, die in seiner Grundlagenmodelle und die KI-Wertschöpfungskette verstehen: ITI’s Comprehensive Policy Guide (öffnet in einem neuen Tab)ITI forderte die AISI von NIST auf:
- Entwicklung zusätzlicher technischer Red-Teaming-Leitlinien für Dual-Use-Stiftungsmodelle, um Organisationen dabei zu helfen, konsistent zu bewerten, ob böswillige Akteure in der Lage sein könnten, Sicherheitsvorkehrungen für KI-Systeme zu überwinden;
- Berücksichtigen Sie die Rollen, Verantwortlichkeiten und Fähigkeiten verschiedener Akteure in der Wertschöpfungskette der KI und klären Sie innerhalb des Leitfadens, wo die Verantwortung geteilt werden könnte; und
- Geben Sie an, welche Informationen Unternehmen veröffentlichen sollten und an wen, um Transparenz- und Offenlegungsziele zu erreichen.
Zusätzlich zu den oben genannten Punkten schlägt die Einreichung von ITI Schlüsseldefinitionen für "Risikobewertung" und "Wirkungsbewertung" vor, die politische Entscheidungsträger anstreben sollten, um global konsistente KI-Politikansätze voranzutreiben.
Lesen Sie hier die vollständige Einreichung von ITI. (öffnet in einem neuen Tab)
Letzten Monat, ITI Vice President von Policy Courtney Lang veröffentlichte einen TechWonk-Blog, der ihre erste Analyse umreißt von NIST Umgang mit Missbrauchsrisiken für Dual Use Foundation Modelle und gab AISI Feedback darüber, wie die Leitlinien verbessert werden können, um Missbrauch durch KI zu bekämpfen und die Verbraucher effektiver zu schützen. Darüber hinaus hat ITI eine Reihe von Leitfäden veröffentlicht, die den Kurs zu wichtigen KI-Themen darstellen: