Essayez les outils gratuitement

Commencer
Gouvernance
Domaine 5

Interaction humain-IA

Risques liés à la façon dont les humains interagissent avec les systèmes d'IA et s'y fient.

Sous-domaines (2)

5.1

Surconfiance et usage dangereux

Utilisateurs qui anthropomorphisent les systèmes d'IA, leur font confiance ou s'en remettent à eux, conduisant à une dépendance émotionnelle ou matérielle et à des relations ou attentes inappropriées. La confiance peut être exploitée par des acteurs malveillants (par exemple pour collecter des informations personnelles ou faciliter la manipulation), ou entraîner des préjudices liés à un usage inapproprié de l'IA dans des situations critiques (par exemple urgence médicale). La surconfiance peut compromettre l'autonomie et affaiblir les liens sociaux.

2 exemples QCVoir la fiche →
5.2

Perte d'agentivité et d'autonomie humaine

Délégation par les humains de décisions clés aux systèmes d'IA, ou systèmes d'IA qui prennent des décisions diminuant le contrôle et l'autonomie humaine, ce qui peut conduire à un sentiment d'impuissance, à la perte de la capacité à façonner une trajectoire de vie épanouissante ou à un affaiblissement cognitif.

1 exemple QCVoir la fiche →

Ce site utilise des cookies essentiels et fonctionnels pour améliorer votre expérience. Politique de confidentialité