Cadres légaux applicables
Canada
Cadre fédéral en construction
Projet de loi fédéral (C-27) introduisant un cadre réglementaire pour les systèmes d'IA à incidence élevée. Crée un Commissaire à l'IA et aux données et impose des obligations d'évaluation, de mitigation et de transparence.
International
Norme entière
Norme certifiable décrivant les exigences pour mettre en place un système de management de l'IA. Pertinente pour les démarches de certification volontaire.
Govern 1-6
Cadre volontaire de gestion des risques d'IA structuré autour de quatre fonctions : Govern, Map, Measure, Manage. Référence courante en gouvernance d'IA.
Exemples sectoriels québécois
Tous secteurs
Une PME québécoise déploie de l'IA générative sans politique interne, sans registre, sans rôle clair d'imputabilité, exposant l'organisation à des incidents et au non-respect de la Loi 25.
Mitigations recommandées
- 1Contrôles de gouvernance et de surveillance
Structures organisationnelles formelles et cadres de politiques établissant des mécanismes de surveillance humaine et des protocoles décisionnels pour assurer la responsabilité humaine, la conduite éthique et la gestion des risques tout au long du développement et du déploiement de l'IA.
- 1.1Structure du conseil et surveillance
Structures de gouvernance et rôles de direction qui établissent la responsabilité de la haute direction en matière de sûreté et de gestion des risques liés à l'IA.
- 1.2Gestion des risques
Méthodes systématiques permettant d'identifier, d'évaluer et de gérer les risques liés à l'IA, pour une gouvernance complète des risques à l'échelle de l'organisation.
- 4.2Divulgation des risques
Protocoles formels de production de rapports et systèmes de notification qui communiquent l'information sur les risques, les plans d'atténuation, les évaluations de sûreté et les activités significatives liées à l'IA pour permettre une supervision externe et informer les parties prenantes.
- 4.4Divulgation de la gouvernance
Mécanismes formels de divulgation qui communiquent les structures de gouvernance, les cadres décisionnels et les engagements en matière de sûreté afin d'accroître la transparence et de permettre la supervision externe des décisions d'IA à enjeux élevés.
Évaluez ce risque pour votre cas d'usage
Notre wizard d'évaluation des risques arrive prochainement.