6.4Dynamiques concurrentielles

01.04.00Type 4: Indifférence délibérée

Comme effet secondaire d'un objectif principal, tel que le profit ou l'influence, les créateurs d'IA peuvent délibérément permettre qu'elle cause des préjudices sociétaux généralisés, comme la pollution, l'épuisement des ressources, les maladies mentales, la désinformation ou l'injustice.

08.03.00Développement d'AGI dangereuses

Les risques associés à la course au développement de la première AGI, incluant le développement d'AGI de mauvaise qualité et dangereuses, et l'intensification des problèmes politiques et de contrôle.

14.08.00Maturité technologique

Le niveau de maturité technologique décrit à quel point une certaine technologie est mature et exempte d'erreurs dans un contexte d'application donné. Si de nouvelles technologies avec un niveau de maturité inférieur sont utilisées dans le développement du système d'IA, elles peuvent contenir des risques encore inconnus ou difficiles à évaluer. Les technologies matures, en revanche, disposent généralement d'une plus grande variété de données empiriques, ce qui signifie que les risques peuvent être identifiés et évalués plus facilement. Cependant, avec les technologies matures, il existe un risque que la conscience du risque diminue avec le temps.

19.05.07Course aux armements technologiques avec des armes autonomes

22.02.00Course à l'IA (environnementale/structurelle)

L'immense potentiel des IA a créé des pressions concurrentielles parmi les acteurs mondiaux en quête de pouvoir et d'influence. Cette « course à l'IA » est menée par des nations et des entreprises qui estiment devoir construire et déployer rapidement des IA pour assurer leurs positions et survivre.

22.02.01Course aux armements militaires basés sur l'IA

Le développement des IA pour les applications militaires ouvre rapidement la voie à une nouvelle ère de la technologie militaire, avec des conséquences potentielles rivalisant avec celles de la poudre à canon et des armes nucléaires, dans ce qui a été décrit comme la « troisième révolution de la guerre ».

22.02.02Course à l'IA des entreprises

Bien que la concurrence entre les entreprises puisse être bénéfique, créant des produits plus utiles pour les consommateurs, il existe également des pièges. Premièrement, les avantages de l'activité économique peuvent être inégalement répartis, incitant ceux qui en bénéficient le plus à ignorer les préjudices causés aux autres. Deuxièmement, sous une concurrence intense sur le marché, les entreprises ont tendance à se concentrer beaucoup plus sur les gains à court terme que sur les résultats à long terme. Avec cette mentalité, les entreprises poursuivent souvent quelque chose qui peut générer beaucoup de profits à court terme, même si cela pose un risque sociétal à long terme.

45.01.13Risques liés aux systèmes d'IA (Risques de sécurité de la chaîne d'approvisionnement)

L'industrie de l'IA repose sur une chaîne d'approvisionnement hautement mondialisée. Cependant, certains pays peuvent utiliser des mesures coercitives unilatérales, telles que des barrières technologiques et des restrictions à l'exportation, pour créer des obstacles au développement et perturber malicieusement la chaîne d'approvisionnement mondiale de l'IA. Cela peut entraîner des risques importants de perturbations d'approvisionnement pour les puces, les logiciels et les outils.

47.01.06Opacité (opacité industrielle)

L'opacité n'est pas uniquement due à la complexité technologique qui limite la compréhension par les développeurs et les utilisateurs du fonctionnement des modèles génératifs sur le plan technique. Elle est exacerbée par les pratiques des organisations et des entreprises qui font progresser le domaine. Beaucoup sont des entreprises privées qui choisissent de ne pas divulguer au public de nombreuses caractéristiques précises de leurs modèles les plus avancés.

50.03.06Préjudice économique (Pratiques de marché déloyales)

53.04.01Impacts politiques déstabilisateurs des systèmes d'IA

(par exemple, polarisation, légitimité des élections), économie politique internationale, ou sécurité internationale en termes d'équilibre des pouvoirs, de courses technologiques et de stabilité internationale, et de la vitesse et du caractère de la guerre

55.02.00Conflits aggravés

"Coopération et conflit : nous constatons une concentration et un investissement accrus dans les types de capacités d'IA qui rendent les conflits plus probables et plus graves, plutôt que dans ceux susceptibles d'améliorer la coopération. Ainsi, sur notre trajectoire actuelle, l'IA semble plus susceptible d'avoir des impacts négatifs à long terme dans ce domaine."

55.02.04Conflits de ressources dus au développement de l'IA

"Le développement de l'IA pourrait lui-même devenir un nouveau point chaud pour les conflits — provoquant davantage de conflits — en particulier des conflits autour des ressources pertinentes pour l'IA (telles que les centres de données, les usines de fabrication de semi-conducteurs et les matières premières)."

58.05.05Augmentation de la concurrence

Augmentation de la concurrence - Utilisation inappropriée ou contraire à l'éthique de la technologie pour gagner des parts de marché.

61.01.12Sécurité

Les menaces à la sécurité internationale et nationale, y compris la cyberguerre, les courses aux armements et l'instabilité géopolitique.

61.02.17Courses au développement dangereuses

Les pressions concurrentielles pourraient entraîner la négligence des mesures de sécurité dans le développement de l'IA.

61.02.26Compétition géopolitique pour la supériorité

La compétition stratégique entre nations pour les capacités d'IA pourrait exacerber les tensions mondiales et déstabiliser les relations internationales.

61.02.27Opérations d'IA à haute vitesse

La vitesse opérationnelle rapide des modèles et systèmes d'IA dans des environnements concurrentiels peut entraîner des erreurs difficiles à détecter et à corriger à temps.

62.29.03Pressions concurrentielles dans le lancement de produits d'IA à usage général

Dans des situations concurrentielles, les développeurs de systèmes d'IA à usage général pourraient négliger l'évaluation de la sécurité de leur modèle d'IA à usage général et consacrer plutôt plus de temps et d'efforts aux capacités de ces systèmes [183, 69]. Ceci est particulièrement dangereux si les capacités de tels systèmes d'IA sont corrélées au risque qu'ils posent [162].

68.06.00Risque geopolitique

L'IA etant de plus en plus consideree comme une technologie puissante, les pays sont en competition pour la developper avant leurs rivaux geopolitiques, une competition qui pourrait mener a des tensions geopolitiques... L'accent de ce risque est mis sur les dommages resultant des effets de second ordre, ou les instabilites geopolitiques resultant de la course au developpement de l'IA, plutot que sur les consequences directes du deploiement ou de l'utilisation de l'IA elle-meme.