Acteurs malveillants et usages abusifs

03.05.00Permettre aux acteurs malveillants et aux actions nuisibles

Certaines utilisations de l'IA sont très préoccupantes, notamment le clonage vocal [58] et la génération de vidéos deepfake [59]. Par exemple, en mars 2022, au début de l'invasion russe de l'Ukraine, des pirates informatiques ont diffusé, via le site d'information ukrainien Ukraine 24, une vidéo deepfake du président Volodymyr Zelensky capitulant et appelant ses soldats à déposer les armes [60]. Les logiciels nécessaires pour créer ces faux sont facilement accessibles sur Internet, et les exigences matérielles sont modestes selon les normes actuelles [61]. D'autres utilisations néfastes de l'IA incluent l'accélération du cassage de mots de passe [62], la capacité pour des personnes non qualifiées de créer des exploits logiciels [63, 64], ou des courriels d'hameçonnage (phishing) efficaces [65]. Bien que certains estiment que les modèles d'IA puissants devraient être empêchés de fonctionner sur des ordinateurs personnels pour conserver un certain contrôle, d'autres démontrent à quel point cet effort pourrait être vain [66]. De plus, à mesure que les systèmes de type ChatGPT évoluent, passant de systèmes conversationnels à des agents capables d'agir de manière autonome et d'effectuer des tâches avec peu d'intervention humaine, comme Auto-GPT [67], de nouveaux risques apparaissent.

04.07.00Utilisation malveillante et déploiement d'agents d'IA

Les LLM, en raison de leurs capacités remarquables, présentent le même potentiel de malveillance que d'autres produits technologiques. Par exemple, ils peuvent être utilisés dans la guerre de l'information pour générer des informations trompeuses ou du contenu illégal, ayant ainsi un impact significatif sur les individus et la société. Étant donné que les LLM actuels sont de plus en plus conçus comme des agents pour atteindre les objectifs des utilisateurs, ils pourraient ignorer les directives morales et de sécurité s'ils fonctionnent sans supervision adéquate. Au lieu de cela, ils pourraient exécuter les commandes des utilisateurs mécaniquement sans tenir compte des dommages potentiels. Ils pourraient interagir de manière imprévisible avec les humains et d'autres systèmes, en particulier dans des environnements ouverts.

06.11.00Utilisation malveillante de l'IA

« Tout comme l'IA peut être utilisée dans de nombreux domaines différents, elle est malheureusement aussi utile pour perpétrer des crimes numériques. Les logiciels malveillants et le piratage assistés par l'IA sont déjà une réalité. »

07.01.00Mauvaise utilisation

« La catégorie de la mauvaise utilisation comprend des éléments tels que le potentiel pour les acteurs de cybermenaces d'exécuter des exploits avec une vitesse et un impact accrus ou de générer de la désinformation (telle que des médias « deep fake ») à des rythmes et une efficacité accélérés. »

16.04.00Domaine de risque 4 : Utilisations malveillantes

Ces risques découlent de l'utilisation intentionnelle du LM par des humains pour causer des préjudices, par exemple via des campagnes de désinformation ciblées, la fraude ou les logiciels malveillants (malware). Les risques d'utilisation malveillante devraient proliférer à mesure que les LMs deviennent plus largement accessibles.

17.04.00Utilisations malveillantes

Préjudices découlant d'acteurs utilisant le modèle linguistique pour causer intentionnellement un préjudice.

18.04.00Utilisation malveillante

Les systèmes d'IA réduisant les coûts et facilitant les activités d'acteurs cherchant à causer des préjudices (p. ex., fraude, armes)

22.01.00Utilisation malveillante (intentionnelle)

donner aux acteurs malveillants les moyens de causer des dommages généralisés

24.03.00Usages malveillants

À mesure que les assistants IA deviennent plus polyvalents, sophistiqués et capables, ils créent de nouvelles opportunités dans divers domaines tels que l'éducation, la science et la santé. Pourtant, la rapidité des progrès a rendu difficile la préparation adéquate, ou même la compréhension, de la manière dont cette technologie peut être potentiellement mal utilisée. En effet, les assistants IA avancés peuvent transformer les menaces existantes ou créer de nouvelles classes de menaces.

30.04.00Résistance à l'utilisation abusive

Interdiction de l'utilisation abusive par des attaquants malveillants pour causer du tort.

49.01.00Risques d'utilisation malveillante

Comme l'IA à usage général couvre un large éventail de domaines de connaissances, elle peut être détournée à des fins malveillantes, causant potentiellement des dommages généralisés. Cette section aborde certains des principaux risques d'utilisation malveillante, mais il en existe d'autres et de nouveaux risques peuvent continuer d'émerger. Bien que les risques abordés dans cette section varient considérablement quant à leur degré de preuve, et que dans certains cas, des preuves suggèrent qu'ils ne constituent peut-être pas des risques sérieux du tout actuellement, nous les incluons pour fournir un aperçu complet des risques d'utilisation malveillante associés aux systèmes d'IA à usage général.

52.02.00Risques d'utilisation abusive

"Cependant, même si un modèle est entièrement digne de confiance et fiable, les risques d'utilisation abusive ou les risques systémiques demeurent. Les modèles d'IA à usage général peuvent présenter des risques importants pour la société si cette technologie est mal utilisée par des acteurs malveillants pour produire des résultats nuisibles. Les risques d'utilisation abusive couvrent la cybercriminalité, les menaces à la biosécurité et l'utilisation abusive à motivation politique."

60.01.00Risques liés à une utilisation malveillante

-

61.02.22Nature à double usage

Le potentiel de l'IA pour des applications à la fois bénéfiques et nuisibles complique les efforts visant à gérer efficacement ses impacts sociétaux.

62.15.03Lié au fine-tuning (Facilité de reconfiguration des modèles GPAI)

Les modèles GPAI sont souvent facilement reconfigurés pour divers cas d'utilisation ou possèdent des compétences au-delà de l'usage prévu [78, 225]. Cela peut être fait soit en modifiant les poids du modèle (par exemple, le fine-tuning), soit en modifiant uniquement les entrées du modèle (par exemple, l'ingénierie de prompt, le jailbreaking, la génération augmentée par récupération). La reconfiguration peut être intentionnelle (avec l'aide d'entrées contradictoires) ou non intentionnelle (à partir d'entrées imprévues du modèle).

62.29.01Mauvaises utilisations et abus à fort impact au-delà de l'objectif initial

Étant donné que les systèmes d'IA à usage général possèdent un large répertoire de capacités, des acteurs malveillants, tels que des acteurs étrangers, peuvent utiliser de tels systèmes pour causer des dommages importants s'ils obtiennent un accès illimité ou non surveillé à ces systèmes d'IA.

62.29.02Démocratisation de l'accès aux technologies à double usage

L'accès aux technologies à double usage peut devenir plus facile en raison de la prolifération des modèles d'IA à usage général (en particulier les modèles open-source ou à poids ouverts). Les non-experts peuvent utiliser de tels systèmes capables de double usage à un coût minime [194, 100]. L'amélioration des capacités des modèles contribue également aux risques liés au double usage posés par les acteurs malveillants. Par exemple, un modèle de base open-source pour la génération de données séquentielles de haute qualité peut être modifié pour générer des séquences de protéines candidates pour la synthèse de toxines [29].

65.14.03Propagation de la toxicité

Les modèles d'IA générative pourraient être utilisés intentionnellement pour générer du contenu haineux, abusif, profane (HAP) ou obscène.

65.14.04Usage dangereux

Les modèles d'IA générative pourraient être utilisés dans l'unique intention de nuire à des personnes.

67.03.00Risques d'utilisation abusive

L'IA frontalière peut aider de mauvais acteurs à effectuer des cyberattaques, à mener des campagnes de désinformation et à concevoir des armes biologiques ou chimiques. L'IA frontalière continuera presque certainement à abaisser les barrières à l'entrée pour les acteurs de la menace moins sophistiqués.192 Nous nous concentrons ici sur seulement quelques risques d'utilisation abusive importants, mais cela ne vise pas à minimiser l'importance des autres.