Un angle mort de la gouvernance de l'IA
La gouvernance de l'intelligence artificielle au Québec ne peut être complète sans aborder la relation entre l'IA et les Premiers Peuples, les nations autochtones qui habitent le territoire québécois depuis des millénaires. Les Premières Nations, les Inuit et les Métis du Québec sont directement concernés par le déploiement de systèmes d'IA dans des domaines qui touchent leur vie quotidienne, leurs droits et leur autodétermination. Pourtant, leurs voix sont largement absentes des discussions sur la gouvernance de l'IA, et les cadres réglementaires existants ne tiennent pas suffisamment compte de leurs perspectives et de leurs besoins spécifiques.
La souveraineté des données autochtones
Le concept de souveraineté des données autochtones est au cœur de la relation entre l'IA et les Premiers Peuples. Ce principe, articulé notamment par les principes PCAP (Propriété, Contrôle, Accès et Possession) développés par le Centre de gouvernance de l'information des Premières Nations, affirme que les peuples autochtones ont le droit de contrôler la collecte, la propriété et l'application des données qui les concernent.
L'IA, par sa nature même, est gourmande en données. Les systèmes d'IA déployés dans les communautés autochtones, ou qui traitent des données relatives aux peuples autochtones, soulèvent des questions fondamentales de consentement et de contrôle. Les données de santé collectées dans les communautés nordiques du Québec sont-elles utilisées pour entraîner des modèles d'IA sans le consentement éclairé des communautés ? Les données environnementales recueillies sur les territoires traditionnels sont-elles exploitées par des systèmes d'IA à des fins commerciales sans que les communautés en bénéficient ?
Les principes PCAP exigent que les communautés autochtones soient non seulement informées et consultées, mais qu'elles exercent un contrôle effectif sur les données qui les concernent, y compris sur leur utilisation dans des systèmes d'IA. Ce principe de souveraineté des données est en tension avec les pratiques courantes de l'industrie de l'IA, qui reposent sur l'extraction et l'agrégation massive de données.
Les risques spécifiques pour les Premiers Peuples
Les systèmes d'IA présentent des risques particuliers pour les peuples autochtones du Québec.
Les biais algorithmiques sont amplifiés lorsque les données d'entraînement sous-représentent ou mal représentent les réalités autochtones. Un système de diagnostic médical entraîné principalement sur des données de populations non autochtones peut être moins performant pour les patients autochtones. Un algorithme de prédiction de risque utilisé par les services sociaux peut surestimer les risques dans les familles autochtones en raison de corrélations historiques liées aux politiques coloniales plutôt qu'à des facteurs individuels.
La surveillance et le profilage par l'IA sont des préoccupations particulièrement sensibles pour les communautés autochtones, compte tenu de l'histoire coloniale de surveillance et de contrôle. Les systèmes de reconnaissance faciale, les outils de surveillance policière prédictive et les systèmes de notation utilisés par les services publics peuvent perpétuer des dynamiques de surveillance disproportionnée.
La numérisation des savoirs traditionnels sans consentement adéquat est un risque émergent. Les modèles d'IA générative peuvent incorporer des connaissances traditionnelles autochtones, plantes médicinales, pratiques culturelles, récits oraux, extraites de sources en ligne, sans reconnaître leur origine et sans respecter les protocoles culturels qui régissent leur partage.
La fracture numérique limite l'accès des communautés autochtones aux outils d'IA et à leurs bénéfices. De nombreuses communautés autochtones du Québec, particulièrement dans le Nord, disposent d'un accès limité à Internet à haut débit, ce qui les exclut de fait de la révolution numérique et de l'IA. L'IA risque d'élargir les inégalités existantes plutôt que de les réduire.
Les opportunités de l'IA pour les Premiers Peuples
L'IA offre aussi des opportunités significatives pour les communautés autochtones, à condition qu'elle soit développée et déployée de manière respectueuse et inclusive.
La préservation et la revitalisation des langues autochtones est un domaine où l'IA peut apporter une contribution précieuse. Des projets de traduction automatique, de reconnaissance vocale et de génération de contenu dans les langues autochtones, inuktitut, cri, innu-aimun, atikamekw et d'autres, peuvent contribuer à la vitalité de ces langues menacées. Mais ces projets doivent être menés par les communautés elles-mêmes ou en partenariat étroit avec elles, et les corpus linguistiques doivent rester sous leur contrôle.
La gestion du territoire et des ressources naturelles peut être améliorée par l'IA. L'analyse d'images satellites, la modélisation climatique et la surveillance environnementale par l'IA peuvent appuyer les communautés autochtones dans la protection de leurs territoires traditionnels et dans l'exercice de leurs droits de gardiennat.
Les services de santé dans les communautés éloignées peuvent être enrichis par la télémédecine assistée par l'IA, les outils de diagnostic à distance et les systèmes de triage intelligents, à condition que ces systèmes soient adaptés aux réalités culturelles et linguistiques des communautés.
Vers une gouvernance inclusive
La gouvernance de l'IA au Québec doit activement intégrer les perspectives autochtones. Cela implique plusieurs engagements concrets.
La consultation et la participation des Premiers Peuples dans l'élaboration des politiques et des cadres de gouvernance de l'IA doivent être systématiques et significatives, pas symboliques. Les processus de consultation doivent respecter les protocoles culturels des communautés et leur laisser le temps nécessaire pour une participation éclairée.
L'intégration des principes de souveraineté des données autochtones dans le cadre réglementaire québécois est nécessaire. Les obligations de la Loi 25 en matière de protection des renseignements personnels devraient être renforcées pour tenir compte des droits collectifs des communautés autochtones sur leurs données.
Le soutien au développement de capacités en IA au sein des communautés autochtones est essentiel pour que ces communautés puissent être des acteurs, et non seulement des sujets, de la révolution de l'IA. Des programmes de formation, des partenariats de recherche et un soutien financier ciblé sont nécessaires.
La création de mécanismes de recours accessibles et culturellement appropriés pour les communautés autochtones affectées par des systèmes d'IA doit être envisagée.
Conclusion
La gouvernance de l'IA au Québec sera jugée, en partie, à l'aune de sa capacité à protéger les droits et à respecter les aspirations des Premiers Peuples. L'histoire du Québec est marquée par l'exclusion des peuples autochtones des processus décisionnels qui les concernent. La gouvernance de l'IA offre l'occasion de rompre avec ce schéma en construisant un cadre véritablement inclusif, fondé sur le respect, la réciprocité et la reconnaissance de la souveraineté autochtone sur les données et les technologies qui touchent leurs communautés.
