L'ITI énonce les principales considérations relatives à la sécurité des systèmes d'IA agents
WASHINGTON – Aujourd'hui, l'association mondiale du commerce des technologies ITI partagé (s’ouvre dans un nouvel onglet) les perspectives et les recommandations initiales avec le Centre pour les normes et l'innovation en matière d'IA (CAISI) sur la sécurisation des systèmes d'IA agents – la prochaine frontière de la technologie d'IA.
Bien que l'IA agentique présente des possibilités, ses capacités et ses implications, y compris les risques pour la sécurité, ne sont pas encore pleinement comprises. La présentation d'ITI fait ressortir toute une série de considérations pour l'ICSAI puisqu'elle évalue les risques de sécurité liés à l'IA et évalue si de nouvelles orientations et pratiques exemplaires sont nécessaires. Dans son exposé, ITI donne une vue d'ensemble de l'industrie sur l'état actuel des risques pour la sécurité des systèmes d'IA agents, offre un aperçu des contrôles et des normes de sécurité qui peuvent appuyer le développement et le déploiement sécurisés, et examine les questions clés liées à l'évaluation de la sécurité des systèmes d'IA agents.
Alors que les décideurs cherchent à comprendre les implications des systèmes d'IA agents, une bonne évaluation des risques est essentielle à son développement et à son déploiement sûrs et responsables. a déclaré ITI Vice-président de la politique Courtney Lang. Nous apprécions que le CAISI cherche à obtenir des commentaires sur les caractéristiques uniques des systèmes d'agents d'IA et sur la façon dont les risques de sécurité se présentent dans ce contexte. ITI s'est engagée à travailler avec le CAISI et les décideurs pour éclairer les nouvelles approches de gestion des risques de sécurité liés à l'IA, en veillant à ce que toute orientation qui en découle ait un grand impact pour les parties prenantes de l'écosystème de l'IA.
Alors que le CAISI évalue la sécurité de l'IA, ITI encourage l'organisme à :
- S'appuyer sur les cadres et les architectures de cybersécurité existants pour faire face aux risques potentiels introduits par les systèmes d'IA agents, plutôt que de créer des paradigmes entièrement nouveaux;
- Adopter des approches fondées sur le risque qui tiennent compte des différences dans la capacité des agents, l'environnement de déploiement et le cas d'utilisation;
- Promouvoir des pratiques de sécurité en couches tout au long du cycle de vie des agents d'IA;
- Accorder la priorité aux mécanismes de sécurité interopérables, à l ' alignement sur les normes et pratiques optimales existantes et aux directives pratiques de mise en œuvre.
Lire les recommandations complètes de l'ITI Ici. (s’ouvre dans un nouvel onglet).
ITI Comprendre l'IA agentique (s’ouvre dans un nouvel onglet) décrit les considérations politiques axées sur la promotion de l'adoption et la promotion de la confiance dans l'IA et les ITI Principes de la politique de sécurité de l'IA (s’ouvre dans un nouvel onglet) fournir des suggestions approfondies sur la façon dont les décideurs peuvent améliorer la cybersécurité des modèles et des systèmes d'IA.