L'ITI envoie des recommandations du NIST pour faire progresser la sécurité et la gestion des risques de l'IA
WASHINGTON – Aujourd'hui, l'association mondiale du commerce des technologies ITI a offert des conseils sur la façon dont le gouvernement américain peut faire progresser la sécurité de l'IA, la gestion des risques et le développement responsable et déploiement en réponse à la consultation de l'Institut national des normes et technologies (NIST) Gérer le risque de mauvaise utilisation pour les modèles de fondation à double usage.
Les modèles de fondation sont un type d'IA qui sous-tend les outils quotidiens, y compris les recherches sur Internet, l'édition de photos, la traduction, le covoiturage et les chatbots. Ils ont également le potentiel de contribuer à résoudre des problèmes plus importants, comme la réduction des cycles de recherche et de développement en médecine et l'amélioration de l'accès à l'éducation.
Pour faire progresser les travaux critiques sur la sécurité de l'IA, les intervenants de l'écosystème de l'IA doivent avoir une compréhension cohérente des risques d'utilisation abusive et des moyens de les gérer, surtout au fur et à mesure qu'ils évoluent. a déclaré ITI Vice-président de la politique Courtney Lang. En intégrant le feedback de l'industrie technologique, le NIST peut renforcer son document d'orientation et fournir un manuel de lecture aux parties prenantes, en assurant la cohérence, en renforçant la responsabilité et en atténuant les risques pour les consommateurs et les entreprises.
Renforcement des recommandations de politique générale Comprendre les modèles de fondation et la chaîne de valeur de l'IA : Guide politique global de l'ITI (s’ouvre dans un nouvel onglet), ITI a demandé instamment à l'AISI de:
- Élaborer des lignes directrices techniques supplémentaires pour les modèles de fondation à double usage afin d'aider les organisations à évaluer systématiquement si des acteurs malveillants pourraient être en mesure d'obtenir des garanties du système d'IA;
- Examiner les rôles, les responsabilités et les capacités de divers acteurs dans la chaîne de valeur de l'IA et clarifier les lignes directrices dans lesquelles les responsabilités pourraient être partagées;
- Préciser ce que les organismes d'information devraient faire connaître et à qui, afin d'atteindre les objectifs de transparence et de divulgation.
Outre les points ci-dessus, la communication de l'ITI propose des définitions clés pour l'évaluation des risques et l'évaluation d'impact, selon lesquelles les décideurs devraient s'efforcer de s'unir pour faire progresser des approches de politique d'IA cohérentes au niveau mondial.
Lire la soumission complète de l'ITI ici. (s’ouvre dans un nouvel onglet)
Le mois dernier, ITI Vice-président de la politique Courtney Lang publié un blog TechWonk décrivant son analyse initiale des NIST. Gestion du risque d'abus pour les modèles de fondation à double usage et a fait part à l'AISI de la façon dont les orientations peuvent être améliorées pour cibler l'utilisation abusive de l'IA et protéger plus efficacement les consommateurs. De plus, l'ITI a publié une série de guides qui tracent le cours sur les principales questions liées à l'IA :