Un cadre de sécurité volontaire est un ensemble d'engagements qu'un laboratoire d'IA prend envers lui-même sur les tests, les seuils de risque et les conditions de déploiement de ses modèles, sans obligation légale ni vérification externe. Le 6 septembre 2026, Jakub Pachocki, directeur scientifique d'OpenAI, a publié un texte intitulé « An Alien Mind » demandant que ces cadres deviennent des normes obligatoires, vérifiées par des auditeurs tiers, des agences gouvernementales ou des organismes internationaux.
La demande est inhabituelle par sa source : elle vient d'un dirigeant technique du laboratoire le plus exposé commercialement, quelques jours après la présentation de son modèle le plus puissant, et elle a été relayée publiquement par le président-directeur général Sam Altman. Elle intervient dans un contexte canadien précis : le Canada a dévoilé le 4 juin 2026 sa stratégie nationale « L'IA pour tous », mais ne dispose d'aucune loi encadrant les systèmes d'IA depuis l'abandon du projet de loi C-27.
Que demande exactement le directeur scientifique d'OpenAI ?
Le texte du 6 septembre 2026 formule trois demandes distinctes, qui vont plus loin qu'un appel général à la prudence :
- Rendre obligatoires les cadres internes existants : le Preparedness Framework d'OpenAI et la Responsible Scaling Policy d'Anthropic passeraient du statut d'engagement volontaire à celui de norme applicable à tous les laboratoires.
- Confier la vérification à des tiers : auditeurs indépendants, agences gouvernementales ou organismes internationaux, plutôt que l'autoévaluation actuelle.
- Publier les progrès vers l'amélioration récursive : les laboratoires devraient rendre compte publiquement de leur avancement vers des systèmes capables d'améliorer eux-mêmes leurs propres capacités.
Pachocki avance deux échéances chiffrées : un chercheur en IA entièrement automatisé d'ici mars 2028, et une fenêtre d'environ 18 mois pour que l'industrie établisse ces normes. Il précise qu'aucun laboratoire n'a résolu l'alignement et la supervision de façon suffisante pour continuer à progresser à vitesse maximale.
Pourquoi cette demande intéresse la gouvernance et non seulement la recherche
L'argument technique central est un problème de vérifiabilité. La surveillance par chaîne de pensée, qui consiste à lire le raisonnement verbalisé d'un modèle pour détecter un comportement problématique, perd en efficacité à mesure que les systèmes raisonnent sans passer par du texte lisible. La principale méthode d'inspection dont disposent les laboratoires devient donc moins fiable au moment où les capacités augmentent.
Pour une organisation qui achète de l'IA, ce constat déplace la question : il ne s'agit plus de savoir si un fournisseur a une politique de sécurité, mais si cette politique reste vérifiable par quelqu'un d'autre que lui. C'est la logique que le règlement européen sur l'intelligence artificielle (AI Act, règlement UE 2024/1689) a inscrite dans le droit, en confiant au Bureau européen de l'IA des pouvoirs d'évaluation des modèles depuis le 2 août 2026, avec des amendes pouvant atteindre 15 millions d'euros ou 3 % du chiffre d'affaires mondial.
Où en est le Canada face à une autorégulation qui s'avoue insuffisante
Le Canada a construit un dispositif de sécurité de l'IA sans levier contraignant. L'Institut canadien de la sécurité de l'intelligence artificielle (ICSIA), fondé en novembre 2024, est doté de 50 millions de dollars sur cinq ans, dont 27 millions confiés au programme de recherche hébergé par le CIFAR, qui a financé 12 projets pour 2,4 millions de dollars durant sa première année. Cet institut produit de la recherche sur l'évaluation des risques, mais il n'a ni pouvoir d'inspection ni pouvoir de sanction.
La stratégie « L'IA pour tous », dévoilée le 4 juin 2026, engage plus de 2,3 milliards de dollars et vise jusqu'à 250 000 nouveaux emplois sur cinq ans. Ses axes couvrent la protection des citoyens et la sécurité des systèmes, mais l'encadrement législatif reste à écrire : le projet de loi C-27, qui portait la Loi sur l'intelligence artificielle et les données (LIAD), est mort au feuilleton et aucun texte de remplacement n'a été déposé. Un laboratoire américain qui réclame lui-même des audits obligatoires met ainsi en lumière un écart canadien : la capacité de recherche existe, l'autorité de vérification n'existe pas.
Ce que le cadre québécois permet déjà d'exiger
Le Québec n'attend pas une loi sur l'IA pour poser des exigences aux fournisseurs. Trois leviers sont déjà disponibles et opposables :
- L'évaluation des facteurs relatifs à la vie privée (EFVP), prévue à l'article 3.3 de la Loi sur l'accès et à l'article 3.1 de la Loi sur la protection des renseignements personnels dans le secteur privé, oblige à documenter un projet avant sa mise en service lorsqu'il implique des renseignements personnels.
- La transparence des décisions automatisées, à l'article 12.1 de la loi du secteur privé et à l'article 65.2 de la loi sur l'accès, impose d'informer la personne visée et de lui permettre de faire valoir ses observations.
- L'arrêté ministériel du 3 décembre 2025 et l'indication d'application du 5 décembre 2025, qui encadrent l'usage de l'IA générative dans les organismes publics québécois, avec des exigences de protection des données, de formation du personnel et de critères de sélection des cas d'usage.
Aucun de ces trois leviers ne permet d'auditer un modèle de frontière. Tous permettent en revanche d'exiger d'un fournisseur qu'il documente ses tests, ses limites connues et ses conditions de retrait du service, et de refuser un contrat lorsque cette documentation n'existe pas.
Trois conclusions à tirer pour une organisation québécoise
D'abord, un fournisseur qui déclare publiquement que l'autoévaluation ne suffit plus fournit un argument utilisable en négociation : une clause d'audit indépendant des tests de sécurité devient difficile à écarter quand son propre directeur scientifique la réclame.
Ensuite, l'échéance de 18 mois évoquée dans le texte du 6 septembre 2026 correspond à un horizon de renouvellement contractuel courant. Les contrats signés aujourd'hui pour trois ans traverseront cette période sans mécanisme de révision si rien n'est prévu.
Enfin, l'écart réglementaire entre l'Union européenne et le Canada devient un critère de sélection : un fournisseur soumis aux obligations européennes produit déjà une documentation technique que le droit canadien ne réclame pas, et qui peut être exigée par contrat au Québec.
Questions fréquentes
Le Canada a-t-il une loi qui encadre les systèmes d'IA en 2026 ?
Non. Le projet de loi C-27, qui contenait la Loi sur l'intelligence artificielle et les données (LIAD), est mort au feuilleton et aucun texte de remplacement n'a été adopté. En septembre 2026, l'encadrement canadien repose sur les lois sur la vie privée, des stratégies non contraignantes et des cadres sectoriels.
Qu'est-ce que l'Institut canadien de la sécurité de l'IA peut faire ?
L'ICSIA, créé en novembre 2024 avec 50 millions de dollars sur cinq ans, finance de la recherche sur l'évaluation et l'atténuation des risques des systèmes avancés. Son programme au CIFAR a soutenu 12 projets pour 2,4 millions de dollars en un an. Il n'a ni pouvoir d'inspection, ni pouvoir de sanction.
Une organisation québécoise peut-elle exiger un audit de sécurité de son fournisseur d'IA ?
Oui, par voie contractuelle. Aucune loi québécoise n'impose l'audit indépendant d'un modèle d'IA, mais rien n'empêche d'inscrire au contrat la remise des résultats de tests, la divulgation des limites connues et le droit de faire vérifier ces éléments par un tiers avant renouvellement.
Quelle différence entre un cadre volontaire et une norme obligatoire ?
Un cadre volontaire est un engagement qu'un laboratoire prend envers lui-même, qu'il peut modifier ou suspendre sans conséquence juridique. Une norme obligatoire s'impose à tous les acteurs d'un marché, se vérifie par un tiers indépendant et expose son auteur à une sanction en cas de manquement.
Sources
- An Alien Mind : le directeur scientifique d'OpenAI appelle à ralentir (The Next Web, 6 septembre 2026)
- Le scientifique en chef d'OpenAI appelle à ralentir sur l'intelligence artificielle (Developpez, septembre 2026)
- Institut canadien de la sécurité de l'intelligence artificielle (Innovation, Sciences et Développement économique Canada)
- Une année d'impact sur la sécurité de l'IA au Canada (CIFAR, 21 janvier 2026)
- La stratégie nationale en matière d'IA du Canada : L'IA pour tous (KPMG Canada, juin 2026)
- Utilisation responsable de l'intelligence artificielle dans l'administration publique (Gouvernement du Québec)
- Règlement (UE) 2024/1689 établissant des règles harmonisées concernant l'intelligence artificielle (EUR-Lex)
