6.3Dévaluation économique et culturelle de l'effort humain

02.03.02Violation du droit d'auteur

« Les systèmes LLM peuvent produire du contenu similaire à des œuvres existantes, portant atteinte aux titulaires de droits d'auteur. »

03.03.00Violations des droits de propriété intellectuelle

Il s'agit d'une catégorie émergente, avec plus de cas susceptibles d'apparaître à mesure que l'utilisation des outils d'IA générative, tels que Stable Diffusion, Midjourney ou ChatGPT, se généralise. Certains créateurs de contenu poursuivent déjà en justice pour l'appropriation de leur travail afin d'entraîner des algorithmes d'IA sans demande d'autorisation ni de compensation. Des cas peut-être encore plus dommageables apparaîtront à mesure que les développeurs demanderont de plus en plus aux chatbots ou assistants comme CoPilot du code informatique prêt à l'emploi. Même si ces outils d'IA n'ont appris que des projets de logiciels libres (OSS), ce qui n'est pas une certitude, il y a toujours de sérieuses questions à considérer, car toutes les licences OSS ne sont pas égales, et certaines sont incompatibles avec d'autres, ce qui signifie qu'il est illégal de les mélanger dans le même produit. Pire encore, certaines licences, comme la GPL, sont virales, ce qui signifie que tout code utilisant un composant GPL doit légalement être mis à disposition sous cette même licence. Par le passé, des entreprises ont subi des injonctions ou ont été contraintes de rendre leur code source propriétaire disponible en raison de l'utilisation imprudente d'une bibliothèque GPL.

05.16.00Art - Créativité

Dans ce regroupement, les préoccupations concernant les impacts négatifs sur la créativité humaine, en particulier par le biais des modèles texte-image, sont prévalentes. Des études critiquent les préjudices financiers ou les pertes économiques pour les artistes en raison de la génération généralisée d'art synthétique, ainsi que l'utilisation non autorisée et non rémunérée des œuvres d'artistes dans les ensembles de données d'entraînement. De plus, étant donné le défi de distinguer les images synthétiques des images authentiques, il est demandé de divulguer systématiquement l'origine non humaine de ce contenu, notamment par le filigrane (watermarking). Par ailleurs, tandis que certaines sources soutiennent que les modèles texte-image manquent de « vraie » créativité ou de la capacité à produire des esthétiques véritablement innovantes, d'autres soulignent des aspects positifs concernant l'accélération de la créativité humaine.

05.17.00Droit d'auteur - Paternité

L'émergence de l'IA générative soulève des questions concernant les perturbations des normes existantes en matière de droit d'auteur. Les violations du droit d'auteur et des droits de propriété intellectuelle découlant de la collecte non autorisée de données d'entraînement textuelles ou imagées sont fréquemment discutées dans la littérature. Une autre préoccupation concerne la mémorisation ou le plagiat de contenu protégé par le droit d'auteur par les modèles génératifs. De plus, il existe des questions ouvertes et des débats autour du droit d'auteur ou de la propriété des sorties de modèles, de la protection des prompts créatifs et de l'estompement général des concepts traditionnels de paternité.

13.02.04Travail et créativité

Les incitations économiques à augmenter et non à automatiser le travail humain, la pensée et la créativité devraient examiner les effets continus des systèmes d'IA générative sur les compétences, les emplois et le marché du travail.

16.06.03Saper les économies créatives

« Les LLM peuvent générer du contenu qui ne viole pas strictement le droit d'auteur, mais qui nuit aux artistes en capitalisant sur leurs idées, de manières qui seraient chronophages ou coûteuses à réaliser avec du travail humain. Cela peut saper la rentabilité du travail créatif ou innovant. Si les LLM peuvent être utilisés pour générer du contenu qui sert de substitut crédible à un exemple particulier de créativité humaine (autrement protégé par le droit d'auteur), cela permet potentiellement de remplacer un tel travail sans que le droit d'auteur de l'auteur ne soit enfreint, de manière analogue au « patent-busting » [158]. Ces risques sont distincts des préoccupations de violation du droit d'auteur basées sur la reproduction textuelle par le LLM de matériel protégé par le droit d'auteur présent dans les données d'entraînement [188]. »

17.06.03Saper les économies créatives

Les LLM peuvent générer du contenu qui ne viole pas strictement le droit d'auteur, mais qui nuit aux artistes en capitalisant sur leurs idées, d'une manière qui serait longue ou coûteuse à réaliser avec du travail humain. Déployé à grande échelle, cela peut saper la rentabilité du travail créatif ou innovant.

18.05.04Détournement et exploitation

S'approprier, utiliser ou reproduire du contenu ou des données, y compris ceux provenant de groupes minoritaires, de manière insensible, ou sans consentement ni juste compensation

18.06.04Miner les économies créatives

Substituer les œuvres originales par des œuvres synthétiques, entravant l'innovation et la créativité humaines.

19.03.01Perturbation des systèmes économiques (par ex., marché du travail, valeur monétaire, système fiscal)

23.10.00Propriété intellectuelle

Cette catégorie traite des réponses qui peuvent violer, ou encourager directement d'autres à violer, les droits de propriété intellectuelle (c'est-à-dire les droits d'auteur, marques de commerce ou brevets) de tout tiers.

30.04.04Droit d'auteur

L'effet de mémorisation des LLM sur les données d'entraînement peut permettre aux utilisateurs d'extraire certains contenus protégés par le droit d'auteur qui appartiennent aux données d'entraînement du LLM.

31.05.00Impact sur les droits de propriété intellectuelle

L'étendue et l'efficacité des protections juridiques de la propriété intellectuelle ont été remises en question avec l'essor de l'IA générative. L'IA générative s'entraîne sur de vastes ensembles de données qui incluent souvent des œuvres protégées par la propriété intellectuelle.

32.01.00Justice sociale et droits

Il s'agit de justice sociale et de droits où ChatGPT est considéré comme ayant un effet potentiellement néfaste sur les fondements moraux de la société, tels qu'une vision partagée de la justice et de la répartition équitable, ainsi que des préoccupations sociales spécifiques comme les fractures numériques ou l'exclusion sociale. Les problèmes incluent: Responsabilité, Redevabilité, Non-discrimination et égalité de traitement, Fractures numériques, Justice Nord-Sud, Justice intergénérationnelle, Inclusion sociale.

33.02.04Authenticité

À mesure que l'IA générative progresse, il devient plus difficile de déterminer l'authenticité d'une œuvre. Les photos qui semblent capturer des événements ou des personnes dans le monde réel peuvent être synthétisées par l'IA DeepFake. La puissance de l'IA générative pourrait conduire à des manipulations à grande échelle d'images et de vidéos, aggravant le problème de la propagation de fausses informations ou de fausses nouvelles sur les plateformes de médias sociaux (Gragnaniello et al., 2022). Dans le domaine des arts, un portrait artistique ou une musique pourrait être le résultat direct d'un algorithme. Les critiques ont soulevé la question que l'art généré par l'IA manque d'authenticité car les algorithmes ont tendance à générer des résultats génériques et répétitifs (McCormack et al., 2019).

33.03.01Droit d'auteur

Selon le U.S. Copyright Office (s.d.), le droit d'auteur est « un type de propriété intellectuelle qui protège les œuvres originales d'auteur dès qu'un auteur fixe l'œuvre dans une forme d'expression tangible » (U.S. Copyright Office, s.d.). L'IA générative est conçue pour générer du contenu basé sur l'entrée qui lui est donnée. Certains des contenus générés par l'IA peuvent être des œuvres originales d'autrui qui sont protégées par les lois et réglementations sur le droit d'auteur. Par conséquent, les utilisateurs doivent être prudents et s'assurer que l'IA générative a été utilisée d'une manière légale telle que le contenu qu'elle génère ne viole pas le droit d'auteur (Pavlik, 2023). Une autre question pertinente est de savoir si l'IA générative devrait se voir accorder la paternité (Sallam, 2023). Murray (2023) a discuté de l'art génératif lié aux jetons non fongibles (NFT) et a indiqué que, selon les lois actuelles sur le droit d'auteur aux États-Unis, l'art génératif manque de reproductibilité car il est généré par un non-humain. La question de la paternité de l'IA affecte les hypothèses sous-jacentes de la loi sur le droit d'auteur concernant la créativité (Bridy, 2012).

47.03.03Défis du droit d'auteur (entraînement de modèles utilisant du contenu protégé par le droit d'auteur)

Les entreprises d'IA générative sont régulièrement accusées de violer la loi sur le droit d'auteur en entraînant des modèles d'IA sur des œuvres protégées par le droit d'auteur sans obtenir la permission ou verser de compensation aux titulaires des droits d'auteur. En fait, un nombre substantiel de documents et de livres protégés par le droit d'auteur ont été incorporés dans les ensembles de données d'entraînement des modèles d'IA générative.

47.03.04Défis liés au droit d'auteur (résultats enfreignant le droit d'auteur)

« Même si les modèles créent généralement de nouveaux résultats, il est possible que le contenu produit par un outil d'IA générative — comme une image, ou même du code informatique — soit presque identique à celui utilisé dans les données d'entraînement. Étant donné que les modèles d'IA générative ont tendance à mémoriser des fragments de leurs données d'entraînement, ils pourraient reproduire ces fragments, ce qui pourrait entraîner des accusations de violation du droit d'auteur. »

47.04.04Impact sur les marchés du travail (hausse des inégalités)

« L'IA est plus susceptible de déplacer des travailleurs lorsqu'elle est conçue pour reproduire les compétences et l'intelligence humaines. Dans de tels cas, il existe un risque de concentration de la richesse et du pouvoir entre les mains de quelques individus ou organisations qui contrôlent le capital. De plus, les gens ordinaires, y compris ceux qui possèdent une expertise considérable, peuvent être moins valorisés car les machines rempliraient leurs fonctions. Ce changement pourrait entraîner une baisse des salaires, une diminution de la valeur du travail humain et exacerber les inégalités économiques. »

48.10.00Propriété intellectuelle

« Production ou reproduction facilitée de contenu présumé protégé par le droit d'auteur, une marque déposée ou une licence sans autorisation (possiblement dans des situations qui ne relèvent pas de l'usage équitable) ; exposition facilitée de secrets commerciaux ; ou plagiat ou reproduction illégale. »