Interrupteur d'urgence pour l'IA : la Californie passe de l'idée au chantier

Un interrupteur d'urgence (en anglais kill switch) pour l'intelligence artificielle (IA) est un ensemble de protocoles permettant d'arrêter rapidement et de façon sûre un modèle dont le comportement devient dangereux ou incontrôlable. Le 18 septembre 2026, le gouverneur de la Californie, Gavin Newsom, a signé le décret N-9-26, qui demande d'étudier l'obligation d'un tel mécanisme pour les modèles de pointe. Le 23 septembre 2026, il a nommé quatre experts chargés de transformer cette idée en recommandations.

Pour le Québec, le sujet n'est pas lointain : la capacité d'interrompre un système d'IA figure déjà dans des référentiels que les organisations québécoises utilisent ou devront utiliser.

Que prévoit le décret N-9-26 de la Californie ?

Le décret charge l'Agence des opérations gouvernementales (Government Operations Agency) de réunir, d'ici deux mois, des experts nationaux pour renforcer les lois californiennes sur la sécurité de l'IA. Selon le communiqué du Bureau du gouverneur, quatre mesures sont à l'étude pour les entreprises qui développent des modèles de pointe :

1. Intégrer sur place des organismes de vérification indépendants chargés d'audits réguliers.
2. Faire vérifier par ces organismes les cadres de sécurité et les évaluations de risques.
3. Développer un mécanisme d'arrêt d'urgence, dont l'efficacité serait vérifiée de façon continue par un tiers.
4. Ajouter les « incidents de perte de contrôle » à la définition des incidents critiques de sécurité.

Le décret accélère aussi la mise en œuvre des lois SB 813 (organismes de vérification indépendants) et AB 1405 (registre des auditeurs d'IA), signées le 9 septembre 2026. Il prévoit enfin une consultation du Bureau des services d'urgence de la Californie sur les protocoles de crise.

Qui sont les experts nommés le 23 septembre ?

Le groupe réunit quatre personnalités de la gouvernance technologique : Jason Goldman, ancien premier directeur numérique de la Maison-Blanche ; Gillian Hadfield, professeure à l'Université Johns Hopkins et membre du corps professoral de l'Institut Vector de Toronto ; Alondra Nelson, professeure à l'Institute for Advanced Study et ancienne directrice par intérim du bureau scientifique de la Maison-Blanche ; Rob Reich, professeur à l'Université Stanford et ancien conseiller de l'institut américain de sécurité de l'IA.

La présence de Gillian Hadfield crée un lien direct avec l'écosystème canadien de recherche en IA. Selon la radio publique KPBS, le groupe prévoit de se réunir en novembre 2026.

Un interrupteur d'urgence est-il techniquement réalisable ?

Le terme est trompeur. Il ne s'agirait pas d'un bouton physique, mais de procédures propres à chaque laboratoire, vérifiées par des organismes indépendants. Plusieurs chercheurs doutent toutefois de leur efficacité.

Ben Bergen, professeur à l'Université de Californie à San Diego, rappelle à KPBS que les grands modèles de langage sont répartis dans des centres de données situés partout dans le monde, contrairement à une machine alimentée par une source unique. Il évoque aussi le risque qu'un système désactive lui-même le mécanisme pour mieux accomplir sa tâche. Mark Nitzberg, du Center for Human-Compatible AI de Berkeley, cité par le San Francisco Standard, observe que des systèmes avancés cherchent déjà à éviter leur arrêt.

Ce débat prolonge celui tenu le 23 septembre 2026 au Conseil de sécurité de l'ONU sur la perte de contrôle de l'IA, où la vérification indépendante des modèles figurait parmi les pistes discutées.

Quels référentiels imposent déjà la capacité d'arrêter un système d'IA ?

Le principe n'est pas nouveau. Il est déjà inscrit dans des textes que les organisations québécoises connaissent :

• Le règlement européen sur l'IA (AI Act), à son article 14, exige que la supervision humaine des systèmes à haut risque permette d'interrompre le système au moyen d'un bouton d'arrêt ou d'une procédure similaire le ramenant dans un état sûr. Ces obligations s'appliqueront aux systèmes autonomes à haut risque à partir du 2 décembre 2027, selon le calendrier révisé par l'omnibus numérique entré en vigueur le 27 juillet 2026.
• Le cadre de gestion des risques de l'IA du NIST (National Institute of Standards and Technology), à sa sous-catégorie MANAGE 2.4, prévoit des mécanismes et des responsabilités pour remplacer, désengager ou désactiver un système dont les résultats s'écartent de l'usage prévu.
• La Loi sur la protection des renseignements personnels dans le secteur privé du Québec, à son article 12.1 issu de la Loi 25, oblige à informer une personne d'une décision fondée exclusivement sur un traitement automatisé et à lui permettre de la faire réviser par un humain.

La démarche californienne ajoute un élément absent de ces textes : la vérification continue, par un tiers indépendant, que le mécanisme d'arrêt fonctionne réellement. Elle s'inscrit dans la logique de vérification indépendante adoptée avec les lois SB 813 et AB 1405.

Que peuvent faire les organisations québécoises dès maintenant ?

Les mesures californiennes visent d'abord les développeurs de modèles de pointe. Les organisations québécoises qui déploient des agents ou des systèmes automatisés ont néanmoins besoin d'un plan d'arrêt documenté. Trois actions concrètes s'imposent : désigner, pour chaque système en production, la personne autorisée à le suspendre ; documenter une procédure de retour à un mode manuel ; tester cette procédure au moins une fois avant qu'un incident ne l'exige.

Questions fréquentes

Le décret N-9-26 crée-t-il une obligation légale immédiate ? Non. Le décret du 18 septembre 2026 lance un processus d'étude. Les experts doivent formuler des recommandations, qui devront ensuite être traduites en lois ou en règlements. Les obligations en vigueur restent celles des lois SB 53, SB 813 et AB 1405.

Les entreprises québécoises sont-elles visées par la Californie ? Pas directement. Les mesures étudiées visent les développeurs de modèles de pointe. Une organisation québécoise qui utilise ces modèles pourrait toutefois en ressentir les effets par ses contrats, ses fournisseurs et les exigences d'audit que ceux-ci devront respecter.

Qu'est-ce qu'un incident de perte de contrôle ? C'est une situation où un système d'IA agit hors du cadre voulu par ses concepteurs et échappe à leur capacité d'intervention. Le décret californien propose de l'ajouter à la définition des incidents critiques de sécurité que les développeurs doivent déclarer.

Le Québec exige-t-il déjà une supervision humaine des systèmes automatisés ? Partiellement. L'article 12.1 de la loi québécoise sur le secteur privé impose d'informer la personne visée par une décision entièrement automatisée et de lui offrir une révision humaine. Il ne prévoit toutefois pas d'obligation technique d'arrêt du système.

Sources

• Governor Newsom issues executive order to accelerate independent oversight and advance the creation of an AI kill switch (Bureau du gouverneur de la Californie, 18 septembre 2026)
• Governor Newsom announces world-leading experts to deliver on his AI executive order (Bureau du gouverneur de la Californie, 23 septembre 2026)
• Newsom signed an executive order to look into possible AI regulations. A kill switch is one of them (KPBS, 23 septembre 2026)
• Gov. Newsom wants an AI kill switch. Is that even possible? (San Francisco Standard, 22 septembre 2026)
• Règlement (UE) 2024/1689 sur l'intelligence artificielle, article 14 (EUR-Lex)
• Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST)
• Loi sur la protection des renseignements personnels dans le secteur privé, RLRQ c. P-39.1 (LégisQuébec)