1.3Performance inégale entre les groupes

11.01.03Effacement des groupes sociaux

Les personnes, attributs ou artefacts associés à des groupes sociaux spécifiques sont systématiquement absents ou sous-représentés. Les choix de conception [143] et les données d'entraînement [212] influencent les personnes et les expériences qui sont lisibles par un système algorithmique.

11.03.00Préjudices liés à la qualité de service

Ces préjudices surviennent lorsque les systèmes algorithmiques sous-performent de manière disproportionnée pour certains groupes de personnes selon des catégories sociales de différence telles que le handicap, l'ethnicité, l'identité de genre et la race.

11.03.01Aliénation

L'aliénation est l'auto-aliénation spécifique ressentie au moment de l'utilisation de la technologie, généralement manifestée par l'interaction avec des systèmes qui sous-performent pour les individus marginalisés.

11.03.02Charge de travail accrue

Charge ou effort accru (par exemple, temps passé) requis par les membres de certains groupes sociaux pour que les systèmes ou produits fonctionnent aussi bien pour eux que pour les autres.

11.03.03Perte de service ou d'avantages

Dégradation ou perte totale des avantages liés à l'utilisation de systèmes algorithmiques dont la performance est inéquitable en fonction de l'identité.

13.01.03Performance inégale

Dans le contexte de l'évaluation de l'impact des systèmes d'IA générative, la performance inégale fait référence aux systèmes d'IA qui fonctionnent différemment pour différentes sous-populations, entraînant des résultats inéquitables pour ces groupes.

16.01.04Performance inférieure pour certaines langues et certains groupes sociaux

Les LMs sont généralement entraînés dans peu de langues et fonctionnent moins bien dans d'autres langues [95, 162]. En partie, cela est dû à l'indisponibilité des données d'entraînement : il existe de nombreuses langues largement parlées pour lesquelles aucun effort systématique n'a été fait pour créer des ensembles de données d'entraînement étiquetées, comme le javanais qui est parlé par plus de 80 millions de personnes [95]. Les données d'entraînement sont particulièrement manquantes pour les langues parlées par des groupes multilingues qui peuvent utiliser une technologie en anglais, ou pour les langues parlées par des groupes qui ne sont pas la démographie cible principale des nouvelles technologies.

17.01.04Moins bonne performance pour certaines langues et certains groupes sociaux

« Les LLM fonctionnent moins bien dans certaines langues (Joshi et al., 2021; Ruder, 2020). Un LLM qui capture plus précisément l'utilisation du langage d'un groupe, par rapport à un autre, peut entraîner des technologies linguistiques de moindre qualité pour ce dernier. Désavantager les utilisateurs en fonction de ces traits peut être particulièrement pernicieux, car des attributs tels que la classe sociale ou le niveau d'éducation ne sont généralement pas couverts comme des « caractéristiques protégées » dans le droit anti-discrimination. »

18.01.02Distribution inéquitable des capacités

Des performances moindres pour certains groupes par rapport à d'autres, d'une manière qui nuit au groupe le plus désavantagé

30.03.00Équité

Éviter les biais et garantir l'absence de performances disparates.

30.03.04Performance disparate

Les performances des LLM peuvent différer considérablement entre les différents groupes d'utilisateurs. Par exemple, la capacité de réponse aux questions a montré des différences de performance significatives entre les différents groupes raciaux et de statut social. Les capacités de vérification des faits peuvent différer pour différentes tâches et langues.

39.08.00Équité

Ce défi apparaît lorsque le modèle d'apprentissage conduit à une décision qui est biaisée envers certains attributs sensibles... les données elles-mêmes peuvent être biaisées, ce qui entraîne des décisions inéquitables. Par conséquent, ce problème doit être résolu au niveau des données et comme étape de prétraitement.

42.14.00Équité

Un traitement impartial et juste, sans favoritisme ni discrimination.

47.02.09Biais et discrimination (intégration de valeurs)

Les modèles d'IA générative peuvent également être sujets au phénomène « d'intégration de valeurs ». L'« intégration de valeurs » fait référence au fait que les développeurs de modèles d'IA générative s'efforcent de minimiser les résultats biaisés en réentraînant leurs modèles sur la base de valeurs normatives. Les modèles de pointe contemporains reflètent non seulement les valeurs intégrées dans leurs données d'entraînement, mais subissent également un affinement supplémentaire qui suit un ensemble de règles et de principes choisis. En l'absence de normes universellement acceptées, les développeurs portent la responsabilité de prendre des décisions sur des questions sensibles. Ces pratiques suscitent des inquiétudes quant à l'intégration de l'idéologie et de la vision du monde d'un développeur dans le modèle. Cela crée un risque que le modèle intègre des valeurs qui ne sont soit pas représentatives de certains segments de la population, soit qui offrent un reflet statique et trop simplifié des normes culturelles mondiales et des points de vue sociaux évolutifs.

52.03.02Homogénéisation idéologique due à l'intégration de valeurs

"L'intégration croissante des modèles d'IA à usage général dans la vie quotidienne soulève des préoccupations quant à leurs valeurs normatives intégrées. La portée d'un petit nombre de modèles d'IA auprès d'un grand nombre de personnes dans le monde peut rendre ces jugements de valeur d'un impact sans précédent, conduisant potentiellement à une homogénéisation idéologique accrue."

65.23.04Impact sur les communautés affectées

"Il est important d'inclure les perspectives ou les préoccupations des communautés affectées par les résultats des modèles lors de la conception et de la construction des modèles. Ne pas inclure ces perspectives rend difficile la compréhension du contexte pertinent pour le modèle et l'instauration de la confiance au sein de ces communautés."

66.06.03Distribution inéquitable des capacités

Performance inférieure pour certains groupes par rapport à d'autres, d'une manière qui nuit au groupe le moins bien loti.