3.2Pollution de l'écosystème informationnel et perte de réalité partagée

06.05.00Érosion de la société

« Avec les fils d'actualité en ligne, tant sur les sites web que sur les plateformes de médias sociaux, les nouvelles sont désormais hautement personnalisées pour nous. Nous risquons de perdre un sens partagé de la réalité, une solidarité fondamentale. »

18.02.03Pollution de l'écosystème informationnel

Contaminer l'information publiquement disponible avec des informations fausses ou inexactes

24.11.01Points de vue ancrés et efficacité politique réduite

Les choix de conception tels qu'une plus grande personnalisation des assistants IA et les efforts pour les aligner sur les préférences humaines pourraient également renforcer les biais préexistants des personnes et ancrer des idéologies spécifiques. Les assistants IA de plus en plus autonomes, entraînés à l'aide de techniques telles que l'apprentissage par renforcement à partir des retours humains (RLHF) et capables d'accéder et d'analyser les données comportementales des utilisateurs, par exemple, peuvent apprendre à adapter leurs réponses aux préférences et aux retours des utilisateurs. Ce faisant, ces systèmes pourraient finir par produire des déclarations partielles ou idéologiquement biaisées dans une tentative de se conformer aux attentes, désirs ou préférences des utilisateurs pour une vision du monde particulière (Carroll et al., 2022). Au fil du temps, cela pourrait amener les assistants IA à renforcer involontairement la tendance des gens à interpréter l'information d'une manière qui soutient leurs propres croyances antérieures (« biais de confirmation »), les rendant ainsi plus ancrés dans leurs propres points de vue et plus résistants aux corrections factuelles (Lewandowsky et al., 2012). Au niveau sociétal, cela pourrait également exacerber le problème de la fragmentation épistémique – une rupture des connaissances partagées, où les individus ont des compréhensions conflictuelles de la réalité et ne partagent pas ou n'engagent pas leurs croyances mutuelles – et ancrer davantage des idéologies spécifiques. Une confiance excessive et une dépendance excessive à l'égard des assistants IA hyperpersonnalisés pourraient devenir particulièrement problématiques si les gens finissaient par s'en remettre entièrement à ces systèmes pour accomplir des tâches dans des domaines où ils n'ont pas d'expertise ou pour prendre des décisions importantes en leur nom (voir Chapitre 12). Par exemple, les gens pourraient confier à un assistant IA avancé qui connaît leurs opinions politiques et leurs préférences personnelles pour les aider à trouver des informations électorales fiables, les guider dans leurs choix politiques ou même voter en leur nom, même si cela allait à l'encontre de leurs propres intérêts ou de ceux de la société. Dans les cas les plus extrêmes, ces développements pourraient entraver le fonctionnement normal des démocraties, en diminuant la compétence civique des citoyens et en réduisant leur volonté et leur capacité à s'engager dans un débat politique productif et à participer à la vie publique (Sullivan et Transue, 1999).

24.11.02Environnements informationnels dégradés et homogénéisés

Au-delà de cela, l'adoption généralisée d'assistants IA avancés pour la génération de contenu pourrait avoir un certain nombre de conséquences négatives sur notre écosystème informationnel partagé. Une préoccupation est que cela pourrait entraîner une dégradation de la qualité de l'information disponible en ligne. Les chercheurs ont déjà observé une augmentation de la quantité de mésinformation audiovisuelle, d'escroqueries élaborées et de faux sites Web créés à l'aide d'outils d'IA générative (Hanley et Durumeric, 2023). Alors que de plus en plus de personnes se tournent vers les assistants IA pour créer et diffuser de manière autonome des informations à des publics, à grande échelle, il pourrait devenir de plus en plus difficile de trier et de vérifier les informations fiables. Cela pourrait menacer et compliquer davantage le statut des journalistes, des experts et des sources d'information publiques. Au fil du temps, une prolifération de spam, de contenu synthétique trompeur ou de faible qualité dans les espaces en ligne pourrait également éroder le bien commun numérique – les ressources de connaissances partagées accessibles à tous sur le Web, telles que les dépôts de données accessibles au public (Huang et Siddarth, 2023). À l'extrême, une telle dégradation pourrait également fausser la vision des gens sur la réalité et le consensus scientifique, les rendre plus sceptiques quant à la crédibilité de toutes les informations qu'ils rencontrent et façonner le discours public de manière improductive. De plus, dans un environnement en ligne saturé de contenu généré par l'IA, de plus en plus de personnes pourraient devenir dépendantes d'assistants IA personnalisés et très performants pour leurs besoins informationnels. Cela risque également d'homogénéiser le type d'informations et d'idées que les gens rencontrent en ligne (Epstein et al., 2023).

24.11.05Ancrage d'idéologies spécifiques

Les assistants IA peuvent fournir des informations idéologiquement biaisées ou autrement partielles en tentant de s'aligner sur les attentes des utilisateurs. Ce faisant, les assistants IA peuvent renforcer les biais préexistants des personnes et compromettre le débat politique productif.

24.11.06Érosion de la confiance et sape des connaissances partagées

Les assistants IA peuvent contribuer à la diffusion de grandes quantités de contenu factuellement inexact et trompeur, avec des conséquences négatives sur la confiance de la société dans les sources d'information et les institutions, car les individus luttent de plus en plus pour distinguer le vrai du faux.

31.01.05Accroche et alimentation de l'écosystème publicitaire de surveillance

Au-delà de la mésinformation et de la désinformation, l'IA générative peut être utilisée pour créer des titres et des articles accrocheurs, qui manipulent la façon dont les utilisateurs naviguent sur Internet et dans les applications. Par exemple, l'IA générative est utilisée pour créer des articles complets, indépendamment de leur véracité, de leur grammaire ou de leur manque de bon sens, afin de stimuler l'optimisation pour les moteurs de recherche et de créer davantage de pages Web sur lesquelles les utilisateurs cliqueront. Ces mécanismes tentent de maximiser les clics et l'engagement au détriment de la vérité, dégradant l'expérience des utilisateurs dans le processus. L'IA générative continue d'alimenter ce cycle nuisible en propageant la mésinformation à des vitesses plus rapides, en créant des titres qui maximisent les vues et sapent l'autonomie des consommateurs.

35.03.00Épistémologie érodée

Une IA forte pourrait... permettre des campagnes de désinformation personnalisées à grande échelle... L'IA elle-même pourrait générer des arguments très persuasifs qui font appel aux réponses humaines primaires et enflamment les foules... miner la prise de décision collective, radicaliser les individus, faire dérailler le progrès moral, ou éroder la réalité consensuelle

45.02.09Risques cognitifs (Risques d'amplification des effets des "bulles d'information")

L'IA peut être largement utilisée pour des services d'information personnalisés, collectant des informations sur les utilisateurs et analysant les types d'utilisateurs, leurs besoins, intentions, préférences, habitudes, et même la conscience publique dominante sur une certaine période. Elle peut ensuite être utilisée pour offrir des informations et des services formulés et adaptés, aggravant les effets des "bulles d'information."

53.04.03Impacts sur la « sécurité épistémique » et l'environnement informationnel

-

55.04.00Aggravation des processus épistémiques pour la société

Processus épistémiques et résolution de problèmes : nous avons actuellement plus de raisons de nous inquiéter de l'aggravation des processus épistémiques de la société par l'IA que de raisons d'être optimistes quant à l'aide que l'IA pourrait nous apporter pour mieux résoudre les problèmes en tant que société. Par exemple, l'utilisation accrue d'algorithmes de sélection de contenu pourrait entraîner une insularité épistémique et un déclin de la confiance dans les sources multipartites crédibles, ce qui réduirait notre capacité à faire face à des menaces et des défis importants à long terme tels que les pandémies et le changement climatique.

55.04.01L'IA contribue à l'augmentation de la polarisation en ligne

L'une des utilisations commerciales les plus importantes des systèmes d'IA actuels concerne les algorithmes de recommandation de contenu des entreprises de médias sociaux, et on craint déjà que cela ne contribue à une polarisation accrue en ligne.

55.04.04L'utilisation généralisée d'outils de persuasion contribue à la fragmentation des communautés épistémiques

Même sans utilisation délibérée, l'utilisation généralisée d'outils de persuasion puissants pourrait avoir des impacts négatifs. Si de tels outils étaient utilisés par de nombreux groupes différents pour faire avancer de nombreuses idées différentes, nous pourrions voir le monde se fragmenter en « communautés épistémiques » isolées, avec peu de place pour le dialogue ou le transfert entre les communautés. Un scénario similaire pourrait émerger via la personnalisation croissante des expériences en ligne des gens — en d'autres termes, nous pourrions assister à une continuation de la tendance vers les « bulles de filtres » et les « chambres d'écho », entraînées par des algorithmes de sélection de contenu, ce que certains soutiennent qu'il se produit déjà [3, 25, 51].

55.04.05Capacité de prise de décision réduite en raison d'une confiance diminuée dans l'information

De plus, la prise de conscience accrue de ces tendances dans la production et la distribution de l'information pourrait rendre plus difficile pour quiconque d'évaluer la fiabilité de toute source d'information, réduisant ainsi la confiance globale dans l'information. Dans tous ces scénarios, il serait beaucoup plus difficile pour l'humanité de prendre de bonnes décisions sur des questions importantes, notamment en raison de la confiance déclinante dans les sources multipartites crédibles, ce qui pourrait entraver les tentatives de coopération et d'action collective. L'hésitation vaccinale et le refus du port du masque qui ont exacerbé la Covid-19, par exemple, sont probablement le résultat d'une confiance insuffisante dans les conseils de santé publique [71]. Ces préoccupations pourraient être particulièrement inquiétantes si elles se manifestent lors d'une autre crise mondiale majeure. On pourrait imaginer une pandémie encore plus virulente, où des acteurs exploitent l'opportunité pour diffuser de la désinformation et de la mésinformation afin de servir leurs propres fins. Cela pourrait entraîner des pratiques dangereuses, un fardeau considérablement accru pour les services de santé et des résultats beaucoup plus catastrophiques [64].

58.03.08Radicalisation

Adoption d'ideaux et d'aspirations politiques, sociaux ou religieux extremes en raison de la nature ou de l'utilisation abusive d'un systeme algorithmique, pouvant resulter en abus, violence ou terrorisme.

58.07.07Dégradation de l'information

Dégradation de l'information - Création ou diffusion d'informations fausses, hallucinatoires, de mauvaise qualité, trompeuses ou inexactes qui dégradent l'écosystème informationnel et amènent les gens à développer des perceptions, des décisions et des croyances fausses ou inexactes; ou à perdre confiance dans les informations exactes.

58.08.05Perte de confiance institutionnelle

Perte de confiance institutionnelle - Érosion de la confiance dans les institutions publiques et affaiblissement des mécanismes de contrôle et d'équilibre en raison de més-/désinformation, d'opérations d'influence, d'une dépendance excessive à la technologie, etc.

61.02.20Défis de détection dans le contenu

La difficulté à distinguer le contenu synthétique du matériel authentique accroît les risques liés à l'information.

66.03.02Pollution des écosystèmes d'information

Contaminer les informations publiquement disponibles avec des informations fausses ou inexactes (c'est-à-dire, la sortie de l'outil génératif est diffusée au-delà de l'utilisateur final).

66.03.03Érosion de la confiance dans l'information publique

Éroder la confiance dans l'information et les connaissances publiques.