ITI oferuje rekomendacje dla NIST w sprawie ponownego łączenia, zaangażowania zainteresowanych stron oraz opracowywania norm
WASHINGTON - Dziś światowe stowarzyszenie technologiczne ITI odpowiedziało na prośbę Krajowego Instytutu Norm i Technologii (NIST) o informacje związane z zadaniami NIST U.S. Prezydent Biden 's Executive Order on Safe, Secure, and Trustworthy Sztuczna inteligencja.
W swojej Uwagi, ITI zaleca:
- NIST współpracuje z międzynarodowymi odpowiednikami przy jednoczesnym opracowaniu ogólnych ram zarządzania ryzykiem związanym z ptasią grypą (RMF) w celu zwiększenia przystosowania podejść ponad granicami, w tym poprzez wykorzystanie międzynarodowych standardów;
- rozważenie ważnych ról deweloperów i deweloperów, jak również innych podmiotów w całym ekosystemie AI, w celu zwiększenia przejrzystości dla systemów generacyjnych AI;
- zapewnienie, by ocena i audyt były ocenione na poziomie ryzyka stwarzanego przez system ptasiej grypy;
- Uznając, że cyberbezpieczeństwo red- teaming różni się od AI red- teaming, rozróżnienie między red- teaming modelu AI vs red- teaming systemu AI, i uniknąć obciążania red- teaming jako chwytliwe - wszystko rozwiązanie dla zarządzania ryzykiem;
- rozważenie elastycznego i opartego na ryzyku podejścia, które pozwala na stosowanie technik uwierzytelniania wielu treści odpowiednich do poziomu ryzyka i przypadku wykorzystania; oraz
- Przy opracowywaniu globalnego planu rozwoju i zaangażowania w zakresie norm w zakresie ptasiej grypy należy utrzymać w miarę możliwości międzynarodową spójność i nadal uznawać znaczenie zaangażowania zainteresowanych stron w organy normalizacyjne.
- Uważamy, że ogólny RMF lub profil AI, standardy i wytyczne dotyczące red-teamingu i oceny modeli AI, a także plan zaangażowania się i postępu w opracowywaniu norm międzynarodowych są integralną częścią postępu w rozwoju i wdrażaniu wiarygodnej AI. Z niecierpliwością czekamy na dalszą współpracę z NIST w miarę postępu tych wysiłków i zachęcamy NIST do postrzegania ITI jako zasobu ",TI napisała w swoich komentarzach.
Przeczytaj pełne komentarze ITI Tutaj.
ITI powtórzyła, że bezpieczny i odpowiedzialny rozwój i wdrażanie ptasiej grypy musi opierać się na zaufaniu, przejrzystości, etyce i współpracy między rządem, przemysłem, społeczeństwem obywatelskim i środowiskiem akademickim. INCITS, oddział stowarzyszony ITI, służy jako amerykańska grupa doradcza do międzynarodowego organu normalizacyjnego, który niedawno opublikował standard zarządzania ryzykiem i możliwościami AI. Ten standard systemu zarządzania zapewnia lepszą jakość, bezpieczeństwo, identyfikowalność, przejrzystość i niezawodność zastosowań ptasiej grypy.
W styczniu, ITI odsłonięte Nowy przewodnik dla światowych decydentów politycznych, Uwierzytelniająca treść AI- Generowana: Badanie zagrożeń, Techniki i Zalecenia Polityki, w celu uwzględnienia pilnej potrzeby uwierzytelnienia treści generowanych przez AI-, w tym czatów, obrazów i generatorów audio.