Cadres légaux applicables
Québec
Réflexions éthiques
Déclaration éthique fondée sur 10 principes (bien-être, respect de l'autonomie, protection de la vie privée, etc.). Référence québécoise reconnue.
Exemples sectoriels québécois
Recherche éthique
Un comité d'éthique universitaire au Québec doit se prononcer sur les obligations envers des agents conversationnels susceptibles d'avoir des préférences encodées.
Mitigations recommandées
- 1.2Gestion des risques
Méthodes systématiques permettant d'identifier, d'évaluer et de gérer les risques liés à l'IA, pour une gouvernance complète des risques à l'échelle de l'organisation.
- 1.7Évaluation de l'impact sociétal
Processus qui évaluent les effets des systèmes d'IA sur la société, y compris les impacts sur l'emploi, les rapports de force, les processus politiques et les valeurs culturelles.
- 1.XContrôle de gouvernance et de surveillance non catégorisé par ailleurs
Structures organisationnelles formelles et cadres de politiques établissant des mécanismes de surveillance humaine et des protocoles décisionnels qui ne sont pas catégorisés par ailleurs.
- 4.4Divulgation de la gouvernance
Mécanismes formels de divulgation qui communiquent les structures de gouvernance, les cadres décisionnels et les engagements en matière de sûreté afin d'accroître la transparence et de permettre la supervision externe des décisions d'IA à enjeux élevés.
Risques documentés (3)
Entrées du AI Risk Repository (MIT) classées dans ce sous-domaine. Contenu original en anglais.
3 entrées
09.06.01Droits et responsabilités de l'IA
Nous notons la littérature, qui nous donne le domaine appelé Robot Rights, abordant les droits de l'IA elle-même à mesure que nous la développons et l'implémentons. Nous trouvons des arguments contre [38] l'octroi de droits aux agents artificiels: qu'ils devraient être égaux en capacité mais pas en droits, qu'ils devraient être inférieurs par conception et remplaçables au besoin, et que, puisqu'ils peuvent être conçus pour ne pas ressentir de douleur (ou quoi que ce soit), ils n'ont pas les mêmes droits que les humains. À un niveau plus théorique, nous trouvons de la littérature posant des questions plus fondamentales, telles que: à quel moment une simulation de vie (par exemple, l'intelligence artificielle) est-elle équivalente à une vie ayant une origine naturelle [43]? Et si une simulation de vie est équivalente à une vie naturelle, ces simulations devraient-elles se voir accorder les mêmes droits, responsabilités et privilèges que ceux accordés à la vie naturelle ou aux personnes? Certaines littératures suggèrent que la réponse à cette question pourrait dépendre des capacités intrinsèques de la création, en comparant, par exemple, la littérature sur les droits des animaux et l'éthique environnementale.
09.06.03Mort de l'IA
La littérature suggère que tout au long du développement d'une IA, nous pourrions passer par plusieurs générations d'agents qui ne fonctionnent pas comme prévu [37] [43]. Dans ce cas, ces agents peuvent être mis en état de suspension, arrêtés ou supprimés. De plus, nous pourrions proposer des scénarios où le financement de la recherche pour une installation exploitant de tels agents est épuisé, entraînant l'arrêt involontaire d'un projet. Dans ces cas, la suppression ou l'arrêt de programmes d'IA (le patient moral) par un agent moral est-il un acte de meurtre? Ceci, un exemple de Robot Ethics, soulève des questions de personnalité qui sont parallèles à la recherche sur les cellules souches et l'avortement.
61.01.08Préjudices aux non-humains
Des préjudices à grande échelle aux animaux et le développement d'IA capables de souffrir.
Évaluez ce risque pour votre cas d'usage
Notre wizard d'évaluation des risques arrive prochainement.