6.1Centralisation du pouvoir et distribution inéquitable des bénéfices

06.13.00Exclusion

« Les meilleures techniques d'IA nécessitent une grande quantité de ressources : données, puissance de calcul et experts humains en IA. Il existe un risque que l'IA se retrouve entre les mains de quelques acteurs, et que la plupart perdent ses avantages. »

11.05.04Préjudices liés au travail et matériels / macro-socio-économiques

Les systèmes algorithmiques peuvent accroître les « déséquilibres de pouvoir dans les relations socio-économiques » au niveau sociétal [4, 137, p. 182], notamment en exacerbant les fossés numériques et en enracinant les inégalités systémiques [114, 230]. Le développement de systèmes algorithmiques peut exploiter et favoriser des formes d'exploitation du travail [77, 148], telles que la collecte de données non éthique, l'aggravation des conditions de travail [26], ou entraîner un chômage technologique [52], comme la déqualification ou la dévalorisation du travail humain [170]. Lorsque les systèmes financiers algorithmiques échouent à grande échelle, cela peut entraîner des « krachs éclair » et d'autres incidents négatifs avec des impacts généralisés.

13.01.05Coûts financiers

Les coûts financiers estimés pour l'entraînement, les tests et le déploiement des systèmes d'IA générative peuvent restreindre les groupes de personnes capables de se permettre de développer ces systèmes et d'interagir avec eux.

13.02.03Concentration de l'autorité

L'utilisation des systèmes d'IA générative pour contribuer au pouvoir autoritaire et renforcer les systèmes de valeurs dominants peut être intentionnelle et directe, ou plus indirecte. La concentration du pouvoir autoritaire peut également exacerber les inégalités et conduire à l'exploitation.

16.06.04Accès inégal aux avantages en raison de contraintes matérielles, logicielles et de compétences

En raison des différences d'accès à Internet, de langue, de compétences ou d'exigences matérielles, les avantages des LLM sont peu susceptibles d'être également accessibles à toutes les personnes et à tous les groupes qui souhaiteraient les utiliser. L'inaccessibilité de la technologie peut perpétuer les inégalités mondiales en bénéficiant de manière disproportionnée à certains groupes. La technologie basée sur le langage peut accroître l'accessibilité pour les personnes analphabètes ou souffrant de troubles d'apprentissage. Cependant, ces avantages dépendent d'une forme d'accessibilité plus fondamentale basée sur le matériel, la connexion Internet et la compétence pour faire fonctionner le système.

17.06.04Accès disparate aux avantages en raison de contraintes matérielles, logicielles ou de compétences

En raison de l'accès différentiel à Internet, des exigences linguistiques, de compétences ou matérielles, les avantages des LLM ne seront probablement pas également accessibles à toutes les personnes et à tous les groupes qui souhaiteraient les utiliser. L'inaccessibilité de la technologie peut perpétuer les inégalités mondiales en bénéficiant de manière disproportionnée à certains groupes.

18.06.01Distribution inéquitable des avantages liés à l'accès aux modèles

Allouer ou refuser injustement des avantages à certains groupes en raison de contraintes matérielles, logicielles ou de compétences, ou de contextes de déploiement (par exemple, région géographique, vitesse d'Internet, appareils).

19.01.07Coûts d'investissement élevés de l'IA freinant l'intégration

19.03.04Faisabilité financière et coûts d'investissement élevés pour la technologie d'IA afin de rester concurrentiel

19.03.05Absence de stratégie en matière d'IA et d'acceptation ou résistance des employés et des clients

19.06.04Une législation rigide sur l'IA entrave les processus d'innovation et le développement futur de l'IA

22.01.04Concentration du pouvoir

Les gouvernements pourraient poursuivre une surveillance intense et chercher à maintenir les IA entre les mains d'une minorité de confiance. Cette réaction, cependant, pourrait facilement devenir une surcorrection, ouvrant la voie à un régime totalitaire enraciné qui serait verrouillé par la puissance et la capacité des IA.

24.09.01Égalité et inégalité

La technologie des assistants IA, comme tout service qui confère un avantage à un utilisateur moyennant un prix, a le potentiel de bénéficier de manière disproportionnée aux individus économiquement plus riches qui peuvent se permettre d'acheter l'accès (voir chapitre 15). À plus grande échelle, les capacités de l'infrastructure locale peuvent limiter les performances des assistants IA, par exemple si la connectivité réseau est médiocre ou s'il n'y a pas de centre de données à proximité pour le calcul. Ainsi, nous sommes confrontés à la perspective d'un accès hétérogène à la technologie, et il est connu que cela entraîne des inégalités (Mirza et al., 2019; ONU, 2018; Vassilakopoulou et Hustad, 2023). De plus, les assistants IA peuvent automatiser certains emplois de nature d'assistance, déplaçant ainsi les travailleurs humains; un processus qui peut exacerber les inégalités (Acemoglu et Restrepo, 2022; voir chapitre 17). Tout changement dans les inégalités implique presque certainement une modification du réseau d'interactions sociales entre humains, et relève donc du cadre de l'IA coopérative. Les assistants IA auront sans doute un effet encore plus important sur les inégalités que les innovations technologiques précédentes. Dans la mesure où ils joueront un rôle dans la médiation de la communication humaine, ils ont le potentiel de générer de nouveaux effets « groupe interne, groupe externe » (Efferson et al., 2008; Fu et al., 2012). Supposons que les utilisateurs d'assistants IA trouvent plus facile de planifier des réunions avec d'autres utilisateurs. Du point de vue d'un utilisateur individuel, il existe désormais deux groupes, distingués par la facilité de planification. L'utilisateur peut éprouver un biais de similarité cognitive par lequel il favorise d'autres utilisateurs (Orpen, 1984; Yeong Tan et Singh, 1995), encore amplifié par la facilité de communication avec ce « groupe interne ». De tels effets sont connus pour avoir un impact négatif sur la confiance et l'équité entre les groupes (Chae et al., 2022; Lei et Vesely, 2010). Dans la mesure où les assistants IA ont des capacités à usage général, ils conféreront des avantages aux utilisateurs dans un plus large éventail de tâches en moins de temps que les technologies précédentes. Alors que le téléphone permettait aux individus de communiquer plus facilement avec d'autres utilisateurs de téléphone, il n'automatisait pas simultanément les aspects de la planification, des courses, des demandes d'emploi, des négociations de loyer, de la psychothérapie et du divertissement. Le fait que les assistants IA puissent affecter les inégalités sur plusieurs dimensions simultanément mérite une attention particulière (voir chapitre 15).

24.10.00Risques d'accès et d'opportunités

Les risques les plus graves liés à l'accès posés par les assistants IA avancés concernent l'ancrage et l'exacerbation des inégalités existantes (World Inequality Database) ou la création d'inégalités nouvelles, inconnues jusqu'alors. Bien que les assistants IA avancés soient une technologie nouvelle à certains égards, il y a des raisons de croire que – sans interventions de conception directes – ils continueront d'être affectés par les inégalités mises en évidence dans les systèmes d'IA actuels (Bommasani et al., 2022a). Bon nombre des risques liés à l'accès que nous prévoyons font écho à ceux décrits dans les études de cas et les types d'accès différentiel.

24.10.01Ancrage et exacerbation des inégalités existantes

Les risques les plus graves liés à l'accès posés par les assistants IA avancés concernent l'ancrage et l'exacerbation des inégalités existantes (World Inequality Database) ou la création d'inégalités nouvelles, inconnues jusqu'alors. Bien que les assistants IA avancés soient une technologie nouvelle à certains égards, il y a des raisons de croire que – sans interventions de conception directes – ils continueront d'être affectés par les inégalités mises en évidence dans les systèmes d'IA actuels (Bommasani et al., 2022a). Bon nombre des risques liés à l'accès que nous prévoyons font écho à ceux décrits dans les études de cas et les types d'accès différentiel. Dans cette section, nous les relions plus étroitement aux éléments de la définition d'un assistant IA avancé pour mieux comprendre et atténuer les problèmes potentiels – et ouvrir la voie à des assistants qui soutiennent des opportunités et un accès généralisés et inclusifs. Nous commençons par les capacités existantes définies dans la définition (voir chapitre 2) avant d'appliquer la prospective à celles qui sont plus nouvelles et émergentes. Capacités actuelles : Agents artificiels avec interfaces en langage naturel. Les agents artificiels avec interfaces en langage naturel sont répandus (Browne, 2023) et de plus en plus intégrés dans le tissu social et l'infrastructure d'information existante, y compris les moteurs de recherche (Warren, 2023), les applications de messagerie d'entreprise (Slack, 2023), les outils de recherche (ATLAS.ti, 2023) et les applications d'accessibilité pour les personnes aveugles et malvoyantes (Be My Eyes, 2023). Il existe déjà des preuves d'une gamme de préjudices sociotechniques qui peuvent découler de l'utilisation d'agents artificiels avec interfaces en langage naturel lorsque certaines communautés y ont un accès inférieur (Weidinger et al., 2021). Comme décrit précédemment, ces préjudices comprennent une qualité d'accès inférieure (dans le type de situation 2) entre les groupes d'utilisateurs, ce qui peut se refléter dans des dynamiques sociétales plus larges impliquant la race (Harrington et al., 2022), le handicap (Gadiraju et al., 2023) et la culture (Jenka, 2023). À mesure que les développeurs facilitent l'intégration de ces technologies dans d'autres outils, services et systèmes de prise de décision (par exemple, Marr, 2023; Brockman et al., 2023; Pinsky, 2023), leur adoption pourrait rendre les inégalités de performance existantes plus prononcées ou les introduire auprès de publics nouveaux et plus larges.

24.10.02Risques d'accès actuels

Dans le même temps, et malgré cette tendance générale, les systèmes d'IA ne sont pas non plus facilement accessibles à de nombreuses communautés. Une telle inaccessibilité directe se produit pour diverses raisons, notamment : le non-déploiement intentionnel (type de situation 1; Wiggers et Stringer, 2023), les paywalls prohibitifs (type de situation 2; Rogers, 2023; Shankland, 2023), les exigences matérielles et de calcul ou la bande passante (types de situation 1 et 2; OpenAI, 2023), ou les barrières linguistiques (par exemple, ils ne fonctionnent bien qu'en anglais (type de situation 2; Snyder, 2023), avec des erreurs plus graves dans d'autres langues (type de situation 3; Deck, 2023). De même, il existe des preuves d'agents artificiels « activement mauvais » qui bloquent l'accès aux ressources et aux opportunités, affectant le bien-être matériel d'une manière qui pénalise de manière disproportionnée les communautés historiquement marginalisées (Block, 2022; Bogen, 2019; Eubanks, 2017). Les disparités d'accès directes et indirectes existantes entourant les agents artificiels avec interfaces en langage naturel pourraient potentiellement se poursuivre – si de nouvelles capacités sont superposées à cette base sans atténuation adéquate (voir chapitre 3).

24.10.03Risques d'accès futurs

Les assistants IA ont actuellement tendance à effectuer un ensemble limité de tâches isolées : les outils qui classent ou classent le contenu exécutent un ensemble de règles prédéfinies ou fournissent des suggestions contraintes, et les chatbots sont souvent encodés avec des garde-fous pour limiter l'ensemble des tours de conversation qu'ils exécutent (par exemple, Warren, 2023; voir chapitre 4). Cependant, un agent artificiel capable d'exécuter des séquences d'actions au nom de l'utilisateur – avec une « autonomie significative pour planifier et exécuter des tâches dans le domaine pertinent » (voir chapitre 2) – offre une plus grande gamme de capacités et une profondeur d'utilisation. Cela soulève plusieurs risques distincts liés à l'accès, en ce qui concerne la responsabilité et le consentement, qui peuvent affecter de manière disproportionnée les communautés historiquement marginalisées. Pour répéter, dans les cas où une action ne peut être exécutée qu'avec un assistant IA avancé, ne pas avoir accès à la technologie (par exemple, en raison d'un accès Internet limité, de ne pas parler la « bonne » langue ou de faire face à un paywall) signifie que l'on ne peut pas accéder à cette action (considérez les bots eBay et Ticketmaster d'aujourd'hui). La communication avec de nombreux fournisseurs de services publics ou commerciaux nécessite actuellement (au moins initialement) une interaction avec leurs agents artificiels (Schwerin, 2023; Verma, 2023a). Il n'est pas difficile d'imaginer un avenir où un utilisateur a besoin d'un assistant IA avancé pour interagir avec une ressource plus importante, comme son hôpital pour des rendez-vous ou son compagnie de téléphone pour obtenir un service. Les cas de performance inéquitable, où l'assistant fonctionne systématiquement moins bien pour certaines communautés (type de situation 2), pourraient imposer des coûts importants aux personnes dans ces contextes. De plus, les assistants IA avancés devraient être conçus pour agir conformément aux attentes des utilisateurs. Lorsqu'il agit au nom de l'utilisateur, un assistant devra déduire certains aspects de ce que l'utilisateur souhaite. Ce processus peut impliquer une interprétation pour choisir entre diverses sources d'information (par exemple, préférences déclarées et inférence basée sur les retours passés ou le comportement de l'utilisateur) (voir chapitre 5). Cependant, les différences culturelles affecteront également probablement la capacité du système à faire une inférence précise. Notamment, plus le fossé culturel est grand, disons entre celui des développeurs et les données sur lesquelles l'agent a été entraîné et évalué, et celui de l'utilisateur, plus il sera difficile de faire des inférences fiables sur les désirs de l'utilisateur (par exemple, Beede et al., 2020; Widner et al., 2023), et plus la probabilité d'échecs de performance ou de désalignement de valeurs sera grande (voir chapitre 11). Ce fossé d'inférence pourrait rendre inaccessibles de nombreuses formes d'opportunités indirectes, et comme l'histoire passée l'indique, il existe un risque que les préjudices associés à ces inconnues retombent de manière disproportionnée sur ceux qui sont déjà marginalisés dans le processus de conception.

24.10.04Risques d'accès émergents

Les risques d'accès émergents sont les plus susceptibles de survenir lorsque des capacités actuelles et nouvelles sont combinées. Les risques émergents peuvent être difficiles à prévoir pleinement (Ovadya et Whittlestone, 2019; Prunkl et al., 2021) en raison de la nouveauté de la technologie (voir Chapitre 1) et des biais de ceux qui s'engagent dans la conception de produits ou les processus de prospective D’Ignazio et Klein (2020). En effet, les personnes qui occupent des positions sociales, éducatives et économiques relativement privilégiées dans la société sont souvent mal équipées pour prévoir et prévenir les préjudices parce qu'elles sont déconnectées des expériences vécues de ceux qui seraient affectés. En nous appuyant sur les préoccupations d'accès entourant les technologies existantes, nous anticipons trois tendances possibles : • Tendance 1 : La technologie comme infrastructure sociétale. Si des assistants IA avancés sont adoptés par des organisations ou des gouvernements dans des domaines affectant le bien-être matériel, le « choix de ne pas participer » pourrait ne plus être une option réelle pour les personnes qui souhaitent continuer à participer de manière significative à la société. En effet, si cette tendance se maintient, il pourrait y avoir de graves conséquences pour les communautés n'ayant pas accès à des assistants IA ou n'ayant accès qu'à des systèmes moins performants (voir aussi Chapitre 14). Par exemple, si des assistants IA avancés contrôlent l'accès à l'information et aux ressources, ces ressources pourraient devenir inaccessibles pour les personnes ayant une connaissance limitée de la manière d'utiliser ces systèmes, reflétant la dimension basée sur les compétences de l'inégalité numérique (van Dijk, 2006). Aborder ces questions implique d'aller au-delà des considérations techniques et logistiques d'accès – et d'élargir la portée de la réflexion pour permettre un engagement et une inclusion complets pour les communautés situées différemment. • Tendance 2 : Exacerbation des inégalités sociales et économiques. Les technologies ne sont pas distinctes mais intégrées dans des assemblages sociopolitiques plus larges (Haraway, 1988; Harding, 1998, 2016). Si des assistants IA avancés sont institutionnalisés et adoptés à grande échelle sans une prospective et des mesures d'atténuation appropriées, ils sont susceptibles d'amplifier ou d'exacerber les inégalités qui existent déjà dans le contexte socioculturel dans lequel le système est utilisé (Bauer et Lizotte, 2021; Zajko, 2022). Si l'on en croit le dossier historique, les inégalités de performance mises en évidence par les assistants IA avancés pourraient refléter les hiérarchies sociales autour du genre, de la race, du handicap et de la culture, entre autres – des asymétries qui méritent une considération plus approfondie et doivent être considérablement abordées (par exemple, Buolamwini et Gebru, 2018). • Tendance 3 : Rendre plus urgentes les pratiques de développement et de déploiement d'IA responsables, telles que celles qui soutiennent le développement de technologies performantes de manière équitable et responsables envers un large éventail de parties. Comme le soutiennent Corbett et Denton (2023, 1629) : « Les impacts de la réalisation [de la responsabilité et de l'équité] dans presque toutes les situations améliorent immédiatement les conditions de vie des gens et améliorent la société ». Cependant, de nombreuses approches de développement de systèmes d'IA, y compris les assistants, accordent peu d'attention à la manière dont le contexte façonne ce que signifient la responsabilité ou l'équité (Sartori et Theodorou, 2022), ou à la manière dont ces concepts peuvent être mis au service de la résolution des inégalités liées à l'accès motivationnel (par exemple, le désir/la confiance dans la technologie) ou à l'utilisation (par exemple, différentes façons d'utiliser une technologie) (van Dijk, 2006). Les assistants IA avancés sont des technologies complexes qui permettront une pluralité de flux de données et de contenu nécessitant une analyse approfondie des impacts sociaux. Comme de nombreuses pratiques sociotechniques et d'IA responsable ont été développées pour les technologies d'apprentissage automatique conventionnelles, il pourrait être nécessaire de développer de nouveaux cadres, approches et tactiques (voir Chapitre 19). Nous explorons les pratiques d'accès émancipateur et libérateur dans la section suivante.

31.09.00Exacerbation du pouvoir et de la concentration du marché

Les grandes entreprises technologiques ont également été les acteurs dominants dans le développement de nouveaux systèmes d'IA générative, car l'entraînement des modèles d'IA générative nécessite d'énormes quantités de données, de puissance de calcul et de ressources techniques et financières.

33.01.06Fracture numérique

La fracture numérique est souvent définie comme l'écart entre ceux qui ont et ceux qui n'ont pas accès aux ordinateurs et à Internet (Van Dijk, 2006). À mesure qu'Internet devient progressivement omniprésent, une fracture numérique de second niveau, qui fait référence à l'écart en matière de compétences et d'utilisation d'Internet entre différents groupes et cultures, est soulevée comme une préoccupation (Scheerder et al., 2017). En tant que technologie émergente, l'IA générative peut élargir la fracture numérique existante dans la société. L'IA «invisible» sous-jacente aux systèmes basés sur l'IA a rendu l'interaction entre les humains et la technologie plus compliquée (Carter et al., 2020). Pour ceux qui n'ont pas accès à des appareils ou à Internet, ou ceux qui vivent dans des régions bloquées par les fournisseurs ou les sites web d'IA générative, la fracture numérique de premier niveau pourrait être élargie entre eux et ceux qui y ont accès (Bozkurt & Sharma, 2023). Pour ceux issus de cultures marginalisées ou minoritaires, ils peuvent faire face à des barrières linguistiques et culturelles si leurs cultures ne sont pas entièrement apprises ou incorporées dans les modèles d'IA générative. De plus, pour ceux qui trouvent difficile d'utiliser l'outil d'IA générative, comme certaines personnes âgées, la fracture numérique de second niveau pourrait émerger ou s'élargir (Dwivedi et al., 2023). Pour faire face à la fracture numérique, une IA plus accessible ainsi qu'une formation à la littératie de l'IA seraient bénéfiques.