Pourquoi un « interrupteur d’arrêt d’urgence » de l’IA n’est pas une solution universelle
De récents événements de cybersécurité impliquant des agents d’IA, tels que l’incident Hugging Face-OpenAI, ont conduit les décideurs politiques à se demander si un « interrupteur d’arrêt d’urgence » (« kill switch ») de l’IA est nécessaire pour empêcher des systèmes de plus en plus performants de causer des préjudices importants et imminents. Mais cette expression suggère une simplicité qui n’existe pas. Un « interrupteur d’arrêt d’urgence » pourrait désigner aussi bien la révocation des autorisations d’un agent que la suspension d’un modèle ou la désactivation de l’infrastructure qui soutient un service. Avant d’imposer de tels mécanismes, les décideurs politiques devraient se poser une question plus fondamentale : quels risques une obligation d’arrêt permettrait-elle réellement de traiter, et quels nouveaux risques pourrait-elle créer ?
Par exemple :
- Les mesures de sauvegarde d’urgence peuvent reposer sur différents mécanismes, dont la portée et les effets varient. Elles peuvent couper l’accès d’un utilisateur individuel, révoquer les autorisations d’un agent, suspendre un modèle, un service ou un déploiement particulier, ou encore désactiver l’infrastructure qui héberge un modèle ou par laquelle un service est fourni. La mise en œuvre de ces contrôles combinerait des mécanismes techniques, opérationnels et administratifs. La question de savoir qui contrôle le déclenchement constitue une considération distincte : un fournisseur peut agir de manière autonome ou en réponse à une injonction des pouvoirs publics, ou une autre partie peut déclencher le mécanisme. La conception de la mesure de sauvegarde et l’identité de l’entité habilitée à la déclencher ont des implications très différentes pour la sécurité et la continuité des services.
- Les mesures de sauvegarde d’urgence ne permettent pas nécessairement d’interrompre toutes les activités. Par exemple, la suspension d’un modèle particulier ne signifie pas automatiquement que les tâches déléguées déjà lancées prendront fin. Elle peut ne pas désactiver les copies du modèle téléchargées et exécutées de manière indépendante.
- L’efficacité d’une mesure de sauvegarde d’urgence dépend du moment où elle est mise en œuvre. Une intervention d’urgence suppose qu’un problème soit détecté ou anticipé, et que des mesures soient prises suffisamment rapidement pour limiter les préjudices. Dans de nombreux cas, même un déclenchement rapide d’une mesure de sauvegarde pourrait ne pas empêcher un préjudice si aucune autre mesure de gestion des risques n’est en place.
- L’introduction de mécanismes de sauvegarde d’urgence peut créer de nouveaux risques. Une suspension généralisée pourrait interrompre les services d’utilisateurs qui n’ont aucun lien avec l’activité qui l’a motivée. Les entreprises qui dépendent d’un service concerné pourraient subir des perturbations dans l’ensemble de leurs propres activités. En outre, intégrer la capacité technique de désactiver à distance un produit ou un service pourrait ouvrir de nouvelles voies d’ingérence malveillante, ou compromettre d’une autre manière la sécurité et la résilience. Les interventions politiques qui prescrivent des mises en œuvre techniques spécifiques risquent de devenir moins adaptées à mesure que les modèles et les déploiements évoluent, introduisant des vulnérabilités et empêchant l’évolution des produits et services.
- Il convient de déterminer si des obligations d’arrêt d’urgence combleraient des lacunes dans les contrôles de cybersécurité existants. Compte tenu des risques opérationnels et commerciaux qu’un mécanisme d’arrêt peut introduire, les décideurs politiques qui envisagent de nouvelles obligations devraient d’abord déterminer les préjudices précis qu’ils cherchent à prévenir ou à atténuer, et les points sur lesquels les exigences et pratiques existantes sont insuffisantes. Les propositions de nouvelles obligations devraient évaluer les coûts et le risque d’introduire des risques disproportionnés. Les décideurs politiques devraient également comprendre que des obligations contradictoires d’un État à l’autre ou d’un pays à l’autre aggravent ces difficultés. Lorsque des obligations auraient une incidence extraterritoriale, les clients pourraient s’inquiéter de la continuité des services, et les produits et services américains pourraient perdre en confiance et en compétitivité.
- Les mesures de sauvegarde d’urgence devraient être considérées comme un élément d’une approche globale de la gestion des risques liés à l’IA. Les développeurs, intégrateurs et déployeurs d’IA devraient maintenir des contrôles efficaces, proportionnés et sécurisés pour remédier aux utilisations abusives et aux comportements dangereux des modèles et agents d’IA. La capacité d’interrompre ou de désactiver un système peut constituer une mesure de sauvegarde importante, mais son efficacité dépend de mesures et de contrôles complémentaires, tels que les essais, les restrictions d’accès, la limitation des autorisations des agents d’IA, la surveillance continue ainsi que la planification de la réponse aux incidents et de la reprise. Bon nombre de ces pratiques sont décrites dans des cadres et normes de gestion des risques existants, tels que le NIST AI Risk Management Framework et la norme ISO/IEC 42001. La seule disponibilité d’une capacité d’arrêt ne suffit pas à évaluer la sûreté globale d’un système.
Les mesures de sauvegarde d’urgence peuvent jouer un rôle important dans la gestion des risques liés à l’IA et, dans de nombreux cas, elles sont déjà intégrées dans des programmes de gestion des risques établis. Elles ne constituent toutefois qu’un élément d’une approche plus large. Avant d’imposer une obligation d’arrêt isolée, les décideurs politiques devraient identifier la lacune qu’elle comblerait, mesurer les nouveaux risques qu’elle pourrait créer et déterminer qui est le mieux placé pour agir. La gestion des risques liés à l’IA ne saurait reposer sur un simple interrupteur ; elle exige la mise en œuvre de mesures et de contrôles variés.