Risques non classés par domaine

02.11.01Insultes

N/A

02.11.02Crimes

N/A

02.11.03Politique sensible

N/A

02.11.04Dommages physiques

N/A

02.11.05Santé mentale

N/A

02.11.06Iniquité

N/A

05.14.00Évaluation - Audit

Étroitement liés à d'autres regroupements comme la sécurité de l'IA, l'équité ou le contenu préjudiciable, les articles soulignent l'importance d'évaluer les systèmes d'IA générative à la fois de manière technique ciblée et dans le cadre d'une évaluation plus large de l'impact sociotechnique, en se concentrant sur les audits préalables à la mise en production ainsi que sur la surveillance post-déploiement. Idéalement, ces évaluations devraient être menées par des tiers indépendants. En ce qui concerne les audits techniques de modèles LLM ou de modèles texte-image, les articles critiquent en outre un manque de bancs d'essai de sécurité pour les langues autres que l'anglais.

05.19.00Divers

Bien que la revue systématique ait identifié des regroupements thématiques distincts au sein de la littérature, elle a également révélé certaines questions qui n'entrent pas dans ces catégories, sont abordées peu fréquemment ou de manière non spécifique. Par exemple, certains articles abordent des concepts comme la fiabilité, la responsabilisation ou la responsabilité, mais restent souvent vagues quant à ce qu'ils impliquent en détail. De même, quelques articles attribuent vaguement l'instabilité sociopolitique ou la polarisation à l'IA générative sans entrer dans les détails. Par ailleurs, un autre domaine thématique mineur concerne les approches responsables pour parler des systèmes d'IA générative. Cela inclut d'éviter de surestimer les capacités de l'IA générative, de réduire l'engouement qui l'entoure, ou d'éviter un langage anthropomorphisé pour décrire les capacités des modèles.

10.07.00Injustice

[non défini dans le texte]

10.08.00Dépendance excessive à la technologie

[non défini dans le texte]

20.03.02Acceptation sociale et confiance envers l'IA

L'acceptation sociale et la confiance envers l'IA sont fortement interconnectées avec les autres défis mentionnés. L'acceptation et la confiance résultent de la mesure dans laquelle l'attente subjective d'un individu correspond à l'effet réel de l'IA sur sa vie. Dans le cas d'une IA transparente et explicable, l'acceptation peut être élevée, mais si un individu rencontre un comportement nuisible de l'IA, comme la discrimination, l'acceptation de l'IA finira par décliner (COMEST, 2017).

22.03.02Les facteurs organisationnels peuvent réduire les chances de catastrophe

Certaines organisations évitent avec succès les catastrophes tout en exploitant des systèmes complexes et dangereux tels que les réacteurs nucléaires, les porte-avions et les systèmes de contrôle du trafic aérien [92, 93]. Ces organisations reconnaissent qu'il est insuffisant de se concentrer uniquement sur les dangers de la technologie impliquée; il faut également tenir compte des facteurs organisationnels qui peuvent contribuer aux accidents, y compris les facteurs humains, les procédures organisationnelles et la structure. Ceux-ci sont particulièrement importants dans le cas de l'IA, où la technologie sous-jacente n'est pas très fiable et reste mal comprise.

26.01.00Transparence

Capacité à fournir une divulgation responsable à ceux qui sont affectés par les systèmes d'IA afin de comprendre le résultat.

26.02.00Explicabilité

Capacité à évaluer les facteurs qui ont conduit à la décision du système d'IA, son comportement général, ses résultats et ses implications.

26.03.00Répétabilité / Reproductibilité

La capacité d'un système à exécuter de manière constante ses fonctions requises dans des conditions énoncées pendant une période déterminée, et pour une partie indépendante à produire les mêmes résultats étant donné des intrants similaires.

26.04.00Sécurité

L'IA ne devrait pas causer de préjudice aux humains (en particulier de préjudice physique), et des mesures devraient être mises en place pour atténuer les préjudices.

26.05.00Sûreté

La sûreté de l'IA est la protection des systèmes d'IA, de leurs données et de l'infrastructure associée contre l'accès, la divulgation, la modification, la destruction ou la perturbation non autorisés. Les systèmes d'IA qui peuvent maintenir la confidentialité, l'intégrité et la disponibilité grâce à des mécanismes de protection qui empêchent l'accès et l'utilisation non autorisés peuvent être considérés comme sûrs.

26.06.00Robustesse

Le système d'IA devrait être résilient contre les attaques et les tentatives de manipulation par des acteurs malveillants tiers, et pouvoir toujours fonctionner malgré des intrants inattendus.

26.07.00Équité

L'IA ne devrait pas entraîner de discrimination involontaire et inappropriée à l'encontre d'individus ou de groupes.

26.08.00Gouvernance des données

Gouverner les données utilisées dans les systèmes d'IA, y compris la mise en place de bonnes pratiques de gouvernance pour la qualité, la lignée et la conformité des données.