Essayez les outils gratuitement

Commencer
Gouvernance
Domaine 1

Discrimination et toxicité

Risques liés à des systèmes d'IA qui discriminent, déforment la représentation des personnes ou exposent les utilisateurs à du contenu toxique.

Sous-domaines (3)

1.1

Discrimination injuste et représentation inexacte

Traitement inégal d'individus ou de groupes par l'IA, souvent fondé sur la race, le genre ou d'autres caractéristiques sensibles, conduisant à des résultats injustes et à une représentation inéquitable de ces groupes.

4 exemples QCVoir la fiche →
1.2

Exposition à du contenu toxique

IA qui expose les utilisateurs à du contenu nocif, abusif, dangereux ou inapproprié. Cela peut inclure des conseils ou l'incitation à l'action. Les exemples comprennent les discours haineux, la violence, l'extrémisme, les actes illégaux, le matériel pédopornographique, ainsi que les contenus contraires aux normes communautaires comme la grossièreté, les discours politiques incendiaires ou la pornographie.

2 exemples QCVoir la fiche →
1.3

Performance inégale entre les groupes

L'exactitude et l'efficacité des décisions et actions de l'IA dépendent de l'appartenance à un groupe ; les choix de conception et les biais dans les données d'entraînement entraînent des résultats inégaux, des bénéfices réduits, un effort accru et l'aliénation des utilisateurs.

2 exemples QCVoir la fiche →

Ce site utilise des cookies essentiels et fonctionnels pour améliorer votre expérience. Politique de confidentialité