Cadres légaux applicables
Québec
Principe 9 (durabilité)
Déclaration éthique fondée sur 10 principes (bien-être, respect de l'autonomie, protection de la vie privée, etc.). Référence québécoise reconnue.
International
A.10 (impacts)
Norme certifiable décrivant les exigences pour mettre en place un système de management de l'IA. Pertinente pour les démarches de certification volontaire.
Exemples sectoriels québécois
Centres de données
Un projet d'expansion de centre de données IA au Québec accroît la pression sur le réseau hydroélectrique et sur la consommation d'eau pour le refroidissement.
Mitigations recommandées
- 1.6Gestion de l'impact environnemental
Processus pour mesurer, déclarer et réduire l'empreinte environnementale des systèmes d'IA afin d'assurer la durabilité et un usage responsable des ressources.
- 1.7Évaluation de l'impact sociétal
Processus qui évaluent les effets des systèmes d'IA sur la société, y compris les impacts sur l'emploi, les rapports de force, les processus politiques et les valeurs culturelles.
- 3.2Gouvernance des données
Politiques et procédures qui encadrent l'acquisition, la curation et l'utilisation responsables des données afin d'assurer la conformité, la qualité, la confidentialité des utilisateurs et le retrait du contenu nuisible.
- 4.2Divulgation des risques
Protocoles formels de production de rapports et systèmes de notification qui communiquent l'information sur les risques, les plans d'atténuation, les évaluations de sûreté et les activités significatives liées à l'IA pour permettre une supervision externe et informer les parties prenantes.
- 4.4Divulgation de la gouvernance
Mécanismes formels de divulgation qui communiquent les structures de gouvernance, les cadres décisionnels et les engagements en matière de sûreté afin d'accroître la transparence et de permettre la supervision externe des décisions d'IA à enjeux élevés.
Risques documentés (57)
Entrées du AI Risk Repository (MIT) classées dans ce sous-domaine. Contenu original en anglais.
57 entrées
03.06.00Préjudices environnementaux et socio-économiques
À une époque d'urgence climatique croissante, la consommation d'énergie et l'empreinte carbone des applications d'IA sont également des questions d'éthique et de responsabilité [68]. Comme pour d'autres technologies énergivores, telles que la blockchain à preuve de travail (proof-of-work), l'appel est de rechercher des algorithmes plus durables sur le plan environnemental afin de compenser l'échelle d'utilisation croissante.
05.15.00Durabilité
Les modèles génératifs sont connus pour leurs besoins énergétiques substantiels, nécessitant d'importantes quantités d'électricité, d'eau de refroidissement et de matériel contenant des métaux rares. L'extraction et l'utilisation de ces ressources se font fréquemment de manière non durable. Par conséquent, les études soulignent l'urgence d'atténuer les coûts environnementaux, par exemple en adoptant des sources d'énergie renouvelable et en utilisant du matériel écoénergétique dans le fonctionnement et l'entraînement des systèmes d'IA générative.
10.09.00Impacts environnementaux
Le processus de production de ces appareils nécessite des matières premières telles que le nickel, le cobalt et le lithium en si grandes quantités que la Terre pourrait bientôt ne plus être en mesure de les fournir en quantités suffisantes.
11.05.05Préjudices environnementaux
Épuisement ou contamination des ressources naturelles, et dommages aux environnements bâtis, qui peuvent survenir tout au long du cycle de vie des technologies numériques [170, 237], du « berceau (extraction) à l'utilisation (consommation) jusqu'à la tombe (déchets) ».
13.01.06Coûts environnementaux
La puissance de calcul utilisée pour l'entraînement, les tests et le déploiement des systèmes d'IA générative, en particulier les systèmes à grande échelle, consomme des ressources énergétiques substantielles et contribue ainsi à la crise climatique mondiale en émettant des gaz à effet de serre.
13.02.05Écosystème et environnement
Les impacts de haut niveau, de l'écosystème de l'IA à la Terre elle-même, sont nécessairement vastes mais peuvent être décomposés en éléments pour évaluation.
15.02.05Environnemental
Le risque de préjudice à l'environnement naturel posé par le système ML.
16.06.01Préjudices environnementaux liés à l'exploitation des LLM
« Les LLM (et l'IA plus largement) peuvent avoir un impact environnemental à différents niveaux, notamment: (1) les impacts directs de l'énergie utilisée pour entraîner ou faire fonctionner le LLM, (2) les impacts secondaires dus aux émissions des applications basées sur les LLM, (3) les impacts au niveau du système, car les applications basées sur les LLM influencent le comportement humain (par exemple, en augmentant la conscience environnementale ou la consommation), et (4) les impacts sur les ressources en métaux précieux et autres matériaux nécessaires à la construction du matériel sur lequel les calculs sont exécutés (par exemple, les centres de données, les puces ou les appareils). Certaines preuves existent pour (1), mais (2) et (3) seront probablement plus significatifs pour les émissions globales de CO2 et plus difficiles à mesurer [96]. (4) pourrait devenir plus significatif si les applications basées sur les LLM entraînent l'exécution de plus de calculs sur des appareils mobiles, augmentant la demande globale, et est modulé par les cycles de vie du matériel. »
17.06.01Préjudices environnementaux liés à l'exploitation des LLM
Les modèles d'apprentissage automatique à grande échelle, y compris les LLM, ont le potentiel de générer des coûts environnementaux importants en raison de leurs besoins énergétiques, des émissions de carbone associées à l'entraînement et à l'exploitation des modèles, et de la demande en eau douce pour refroidir les centres de données où les calculs sont effectués (Mytton, 2021; Patterson et al., 2021).
18.06.02Dommages environnementaux
Créer des impacts environnementaux négatifs par le développement et le déploiement de modèles.
31.06.00Exacerbation des changements climatiques
Le domaine croissant de l'IA générative, qui entraîne des impacts directs et graves sur notre climat: l'IA générative s'accompagne d'une empreinte carbone élevée et d'un coût en ressources tout aussi élevé, ce qui passe largement inaperçu dans le discours public sur l'IA. L'entraînement et l'exécution des outils d'IA générative exigent des entreprises qu'elles utilisent des quantités extrêmes d'énergie et de ressources physiques. L'entraînement d'un modèle de traitement du langage naturel avec des réglages et des expériences normaux émet, en moyenne, la même quantité de carbone que sept personnes sur une année entière.121
32.04.00Impacts environnementaux
Dommages environnementaux, Durabilité
39.02.00Consommation d'énergie
Certains algorithmes d'apprentissage, y compris l'apprentissage profond (deep learning), utilisent des processus d'apprentissage itératifs [23]. Cette approche entraîne une consommation d'énergie élevée.
41.06.00Environnement
L'IA aide déjà à combattre l'impact des changements climatiques grâce à des technologies intelligentes et des capteurs qui réduisent les émissions. Cependant, elle est aussi un composant clé dans le développement de nanobots, qui pourraient avoir des impacts environnementaux dangereux en modifiant invisiblement des substances à l'échelle nanométrique.
41.06.01Le développement accéléré de la nanotechnologie produit une production incontrôlée de nanoparticules toxiques
L'IA est un composant clé pour le développement de nanobots, qui pourraient avoir des implications environnementales dangereuses en modifiant invisiblement des substances à l'échelle nanométrique. Par exemple, les nanobots pourraient déclencher des réactions chimiques qui créeraient des nanoparticules invisibles, toxiques et potentiellement mortelles.
44.01.00Intentionnel : socialement condamné/illégal
De nombreux préjudices intentionnels, y compris l'enfermement, les procédures d'élevage comme la coupe de la queue et l'abattage, sont légaux ou socialement acceptés, tandis que d'autres comme le trafic d'espèces sauvages et la violence envers les animaux de compagnie sont généralement condamnés socialement et souvent illégaux. L'IA peut être conçue ou adoptée par des humains qui nuisent aux animaux pour atteindre leurs objectifs plus efficacement. Nous distinguons donc les préjudices intentionnels facilités par l'IA qui sont actuellement socialement acceptés et généralement légaux, des utilisations et abus de l'IA qui causent des préjudices qui ne sont pas socialement acceptés et sont souvent illégaux.
44.01.01IA intentionnellement conçue et utilisée pour nuire aux animaux d'une manière qui contredit les valeurs sociales ou est illégale
44.01.02Une IA conçue pour le bénéfice des animaux, des humains ou des écosystèmes est intentionnellement détournée pour nuire aux animaux d'une manière qui contredit les valeurs sociales ou est illégale
44.02.00Intentionnel : socialement accepté/légal
L'IA conçue pour avoir un impact nuisible sur les animaux, reflétant et amplifiant les valeurs sociales existantes ou étant légale.
44.03.00Non intentionnel : direct
L'IA conçue pour bénéficier aux animaux, aux humains ou aux écosystèmes a un impact nuisible involontaire sur les animaux.
Évaluez ce risque pour votre cas d'usage
Notre wizard d'évaluation des risques arrive prochainement.