Cadres légaux applicables
Québec
Article 12.1 (droit à l'intervention humaine)
Loi québécoise sur la protection des renseignements personnels en vigueur depuis le 22 septembre 2023, encadrant la collecte, l'utilisation, la communication et la conservation des renseignements personnels par les entreprises et organismes publics. Inclut des obligations sur la prise de décision automatisée (article 12.1).
Canada
Surveillance humaine pour systèmes à incidence élevée
Projet de loi fédéral (C-27) introduisant un cadre réglementaire pour les systèmes d'IA à incidence élevée. Crée un Commissaire à l'IA et aux données et impose des obligations d'évaluation, de mitigation et de transparence.
UE
Article 14 (surveillance humaine)
Règlement européen établissant un cadre harmonisé pour l'IA, fondé sur une approche par risque (risque inacceptable, élevé, limité, minimal). Pertinent pour les organisations québécoises faisant affaire en UE.
Exemples sectoriels québécois
Services publics
Un système automatisé de recouvrement de créances décide seul des saisies sans intervention humaine, alors que la Loi 25 (article 12.1) garantit un droit à l'intervention humaine.
Mitigations recommandées
- 1.1Structure du conseil et surveillance
Structures de gouvernance et rôles de direction qui établissent la responsabilité de la haute direction en matière de sûreté et de gestion des risques liés à l'IA.
- 1.2Gestion des risques
Méthodes systématiques permettant d'identifier, d'évaluer et de gérer les risques liés à l'IA, pour une gouvernance complète des risques à l'échelle de l'organisation.
- 3.4Déploiement par étapes
Protocoles de mise en œuvre qui déploient les systèmes d'IA par étapes, exigeant une validation de la sûreté avant d'élargir l'accès des utilisateurs ou les capacités.
- 4.1Documentation des systèmes
Protocoles de documentation exhaustifs qui consignent les spécifications techniques, les usages prévus, les capacités et les limites des systèmes d'IA pour permettre une évaluation et une gouvernance éclairées.
- 4.6Droits et recours des utilisateurs
Cadres et procédures qui permettent aux utilisateurs d'identifier et de comprendre les interactions avec les systèmes d'IA, de signaler des problèmes, de demander des explications et de solliciter un recours ou une réparation lorsqu'ils sont affectés par des systèmes d'IA.
Évaluez ce risque pour votre cas d'usage
Notre wizard d'évaluation des risques arrive prochainement.