ITI propose des recommandations au NIST sur l'élaboration d'équipes rouges, l'engagement des intervenants et les normes d'IA
WASHINGTON – Aujourd'hui, l'association mondiale du commerce des technologies ITI a répondu à la demande d'information de l'Institut national des normes et technologies (NIST) concernant les missions de NIST Le président américain Biden's Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence.
Dans ses commentaires, ITI recommande:
- Le NIST collabore avec ses homologues internationaux tout en élaborant un cadre général de gestion des risques liés à l'IA (CRG) afin d'améliorer l'alignement des approches au-delà des frontières, notamment en tirant parti des normes internationales;
- Considérer les rôles importants des développeurs et des déploiements, ainsi que d'autres dans l'ensemble de l'écosystème de l'IA, dans la promotion de la transparence pour les systèmes générateurs d'IA;
- s'assurer que l'évaluation et la vérification sont menées au niveau de risque qu'un système d'IA pose;
- Reconnaître que l'équipe rouge de cybersécurité est différente de l'équipe rouge de l'IA, faire la différence entre l'équipe rouge d'un modèle de l'IA et l'équipe rouge d'un système de l'IA, et éviter de faire de l'équipe rouge une solution pour la gestion des risques;
- envisager une approche souple et axée sur le risque qui permette l'utilisation de techniques d'authentification de contenu multiple adaptées au niveau de risque et de cas d'utilisation;
- Dans l'élaboration d'un plan mondial d'élaboration et d'engagement des normes d'IA, maintenir la cohérence internationale dans la mesure du possible et continuer de reconnaître l'importance de la participation des parties prenantes aux organes d'élaboration des normes.
Nous croyons qu'un FGR ou un profil d'IA générique, des normes et des lignes directrices pour l'évaluation de l'IA par équipes rouges et des modèles, ainsi qu'un plan visant à entreprendre et à faire progresser l'élaboration de normes internationales font partie intégrante du développement et du déploiement d'une AI fiable. Nous nous réjouissons à la perspective de continuer à collaborer avec le NIST dans le cadre de ses efforts et d'encourager le NIST à considérer l'ITI comme une ressource.TI a écrit dans ses commentaires.
Lire les commentaires complets Ici..
L'ITI a réaffirmé que le développement et le déploiement d'IA sûrs et responsables doivent reposer sur la confiance, la transparence, l'éthique et la collaboration entre le gouvernement, l'industrie, la société civile et les milieux universitaires. INCITS, une division affiliée d'ITI, sert de groupe consultatif technique américain à l'organisme international de normalisation qui a récemment publié une norme pour la gestion des risques et des possibilités de l'IA. Cette norme de système de gestion permet d'améliorer la qualité, la sécurité, la traçabilité, la transparence et la fiabilité des applications d'IA.
En janvier, ITI a dévoilé un nouveau guide pour les décideurs mondiaux, Authentification du contenu généré par l'IA : exploration des risques, des techniques et des recommandations stratégiques, visant à répondre au besoin pressant d'authentifier le contenu généré par l'IA, y compris les chatbots, les images et les générateurs audio.