6.2Aggravation des inégalités et déclin de la qualité de l'emploi

05.12.00Déplacement de la main-d'œuvre - Impact économique

La littérature souligne fréquemment les préoccupations selon lesquelles les systèmes d'IA générative pourraient avoir un impact négatif sur l'économie, pouvant même entraîner un chômage de masse. Cela concerne divers domaines, allant des services à la clientèle à l'ingénierie logicielle ou aux plateformes de travail collaboratif (crowdwork). Bien que de nouveaux domaines professionnels comme le prompt engineering soient créés, la principale inquiétude est que l'IA générative puisse exacerber les inégalités socioéconomiques et entraîner un déplacement de la main-d'œuvre. De plus, des études débattent de la potentielle déqualification à grande échelle des travailleurs induite par l'IA générative, mais aussi des gains de productivité liés à l'externalisation de tâches banales ou répétitives vers des systèmes d'IA générative.

09.02.06Inégalité de la richesse

Puisqu'un seul acteur humain contrôlant un agent d'intelligence artificielle pourra exploiter une plus grande puissance qu'un seul acteur humain, cela pourrait créer des inégalités de richesse.

09.03.01Compétition directe avec les humains

Un ou plusieurs agents artificiels pourraient avoir la capacité de surpasser directement les humains, par exemple, grâce à leur capacité à effectuer le travail plus rapidement, à mieux s'adapter au changement, à disposer d'une base de connaissances plus vaste, etc. Cela pourrait rendre le travail humain plus coûteux ou moins efficace que le travail artificiel, entraînant des suppressions d'emplois ou l'extinction de la main-d'œuvre humaine.

09.04.01Compétition pour les emplois

Les agents d'IA pourraient concurrencer les humains pour les emplois, bien que l'histoire montre que lorsqu'une technologie remplace un emploi humain, elle crée de nouveaux emplois nécessitant plus de compétences.

10.04.00Usurpation d'emplois par l'automatisation

Emplois éliminés dans divers types d'entreprises.

13.01.07Travail de modération des données et du contenu

Deux préoccupations éthiques majeures concernant l'utilisation du crowdwork pour les systèmes d'IA générative sont les suivantes: les travailleurs du crowdwork sont fréquemment soumis à des conditions de travail épuisantes et débilitantes pour la santé physique et mentale, et il existe un manque généralisé de documentation sur le rôle que jouent les travailleurs du crowdwork dans le développement de l'IA. Cela contribue à un manque de transparence et d'explicabilité dans les résultats des modèles. Un examen manuel est nécessaire pour limiter les résultats nuisibles des systèmes d'IA, y compris les systèmes d'IA générative. Une pratique nuisible courante consiste à employer intentionnellement des travailleurs du crowdwork avec peu de protections du travail, profitant souvent de travailleurs très vulnérables, tels que les réfugiés [119, p. 18], les personnes incarcérées [54] ou les individus en situation de grande précarité économique [98, 181]. Cette précarité permet une multitude de pratiques nuisibles, telles que des entreprises sous-payant ou même refusant de payer les travailleurs pour le travail accompli (voir Gray et Suri [93, p. 90] et Berg et al. [29, p. 74]), sans aucune voie de recours pour les travailleurs. Enfin, des aspects cruciaux du crowdwork sont souvent mal documentés, voire pas du tout documentés [88].

16.06.02Accroissement des inégalités et effets négatifs sur la qualité de l'emploi

« Les avancées dans les LLM et les technologies linguistiques basées sur ceux-ci pourraient entraîner l'automatisation de tâches actuellement effectuées par des travailleurs humains rémunérés, telles que la réponse aux requêtes du service client, avec des effets négatifs sur l'emploi [3, 192]. »

17.06.02Accroître les inégalités et les effets négatifs sur la qualité de l'emploi

Les avancées des LLM et des technologies linguistiques qui en découlent pourraient entraîner l'automatisation de tâches actuellement effectuées par des travailleurs humains rémunérés, telles que la réponse aux requêtes du service à la clientèle, la traduction de documents ou l'écriture de code informatique, avec des effets négatifs sur l'emploi.

18.06.03Inégalité et précarité

Amplifier l'inégalité sociale et économique, ou le travail précaire ou de faible qualité.

18.06.05Approvisionnement et enrichissement de données exploitants

Perpétuer des pratiques de travail exploitantes pour construire des systèmes d'IA (approvisionnement, tests utilisateurs).

19.03.00Risques économiques liés à l'IA

Dans le contexte des risques économiques liés à l'IA, deux risques majeurs prédominent. Ceux-ci se réfèrent à la perturbation du système économique due à une augmentation des technologies d'IA et de l'automatisation. Par exemple, un niveau plus élevé d'intégration de l'IA dans l'industrie manufacturière peut entraîner un chômage massif, conduisant à une perte de contribuables et impactant ainsi négativement le système économique (Boyd & Wilson, 2017; Scherer, 2016). Cela peut également être associé au risque de perdre le contrôle et la connaissance des processus organisationnels à mesure que les systèmes d'IA prennent en charge un nombre croissant de tâches, remplaçant les employés dans ces processus.

19.03.02Remplacement des humains et chômage dus à l'automatisation par l'IA

19.04.00Risques sociaux liés à l'IA

Les risques sociaux liés à l'IA font particulièrement référence à la perte d'emplois (chômage technologique) due à l'automatisation croissante, ce qui se reflète dans une résistance grandissante des employés à l'intégration de l'IA (Thierer et al., 2017; Winfield & Jirotka, 2018). De plus, l'intégration croissante des systèmes d'IA dans toutes les sphères de la vie représente une menace grandissante pour la vie privée et pour la sécurité des individus et de la société dans son ensemble (Winfield & Jirotka, 2018; Wirtz et al., 2019).

19.04.01Augmentation des inégalités sociales

20.03.01Substitution et transformation de la main-d'œuvre

Frey et Osborne (2017) ont analysé plus de 700 emplois différents concernant leur potentiel de remplacement et d'automatisation, constatant que 47 % des emplois analysés risquent d'être complètement substitués par des robots ou des algorithmes. Cette substitution de la main-d'œuvre peut avoir de graves répercussions sur le chômage et le statut social des membres de la société (Stone et al., 2016).

24.04.03Préjudices économiques

« Ces préjudices concernent la situation économique d'un individu ou d'un groupe. Au niveau individuel, ces préjudices comprennent les impacts négatifs sur le revenu, la qualité de l'emploi ou le statut d'emploi d'un individu. Au niveau du groupe, ces préjudices comprennent l'aggravation des inégalités entre les groupes ou la frustration de l'accès d'un groupe aux ressources. Les assistants IA avancés pourraient causer des préjudices économiques en contrôlant, limitant ou éliminant la capacité d'un individu ou de la société à accéder aux ressources financières, à l'argent ou à la prise de décision financière, influençant ainsi la capacité d'un individu à accumuler de la richesse. »

31.07.00Manipulation, vol et déplacement de la main-d'œuvre

Les grandes entreprises technologiques ont également été les acteurs dominants dans le développement de nouveaux systèmes d'IA générative, car l'entraînement des modèles d'IA générative nécessite d'énormes quantités de données, de puissance de calcul et de ressources techniques et financières. Leur domination du marché a un effet d'entraînement sur le marché du travail, affectant à la fois les travailleurs au sein de ces entreprises et ceux qui mettent en œuvre leurs produits d'IA générative à l'extérieur. Avec un pouvoir de marché, une expertise et des ressources d'investissement aussi concentrés, cette poignée de grandes entreprises technologiques emploie la plupart des emplois en recherche et développement dans le domaine de l'IA générative. Le pouvoir de créer des emplois signifie également que ces entreprises technologiques peuvent supprimer des emplois face à l'incertitude économique. Et à l'extérieur, les outils d'IA générative que ces entreprises développent ont le potentiel d'affecter le travail de bureau de cols blancs destiné à augmenter la productivité des travailleurs et à automatiser les tâches.

31.07.02Automatisation des emplois plutôt qu'augmentation

L'impact de l'IA sur le travail présente des aspects positifs et négatifs. Un rapport de la Maison-Blanche indique que l'IA «a le potentiel d'augmenter la productivité, de créer de nouveaux emplois et d'améliorer le niveau de vie», mais elle peut aussi perturber certaines industries, entraînant des changements significatifs, y compris des pertes d'emplois. Au-delà du risque de perte d'emploi, les travailleurs pourraient constater que les outils d'IA générative automatisent des parties de leurs emplois, ou que les exigences de leur emploi ont fondamentalement changé. L'impact de l'IA générative dépendra de l'intention de la technologie, qu'elle soit destinée à l'automatisation (où les systèmes automatisés remplacent le travail humain) ou à l'augmentation (où l'IA est utilisée pour aider les travailleurs humains). Au cours des deux dernières décennies, les progrès rapides de l'automatisation ont entraîné un «déclin de la part du travail, une stagnation des salaires et la disparition des bons emplois dans de nombreuses économies avancées».

31.07.03Dévalorisation du travail et inégalité économique accrue

Selon un rapport de la Maison-Blanche, une grande partie du développement et de l'adoption de l'IA vise à automatiser plutôt qu'à augmenter le travail. Le rapport note qu'une focalisation sur l'automatisation pourrait conduire à un marché du travail moins démocratique et moins équitable. De plus, l'IA générative alimente les disparités mondiales continues du travail qui existent dans la recherche et le développement des technologies d'IA. Le développement de l'IA a toujours montré une disparité de pouvoir entre ceux qui travaillent sur les modèles d'IA et ceux qui contrôlent et profitent de ces outils. Les travailleurs étrangers qui forment les chatbots d'IA ou les personnes dont le contenu en ligne a été involontairement introduit dans les modèles d'apprentissage ne récoltent pas les énormes profits que les outils d'IA générative accumulent. Au lieu de cela, les entreprises exploitant des travailleurs sous-payés et remplaçables ou le travail non rémunéré d'artistes et de créateurs de contenu sont celles qui en sortent gagnantes. Le développement des technologies d'IA générative ne fait que contribuer à cette disparité de pouvoir, où les entreprises technologiques qui investissent massivement dans les outils d'IA générative en bénéficient aux dépens des travailleurs.

33.04.01Marché du travail

Le marché du travail peut être confronté à des défis de la part de l'IA générative. Comme mentionné précédemment, l'IA générative pourrait être appliquée dans un large éventail d'applications dans de nombreuses industries, telles que l'éducation, la santé et la publicité. En plus d'augmenter la productivité, l'IA générative peut entraîner des suppressions d'emplois sur le marché du travail (Zarifhonarvar, 2023). Une nouvelle division du travail entre les humains et les algorithmes est susceptible de remodeler le marché du travail dans les années à venir. Certains emplois qui sont initialement effectués par des humains pourraient devenir redondants, et par conséquent, les travailleurs pourraient perdre leur emploi et être remplacés par des algorithmes (Pavlik, 2023). D'un autre côté, l'application de l'IA générative peut créer de nouveaux emplois dans diverses industries (Dwivedi et al., 2023). Pour rester compétitif sur le marché du travail, une requalification est nécessaire pour travailler avec et collaborer avec l'IA et développer des avantages irremplaçables (Zarifhonarvar, 2023).