"Un risque de déshumanisation": une députée propose d'obliger les plateformes numériques à installer un filtre anti-IA

"L'IA doit être mise au service de la création et non se substituer à elle." Dans un rapport d'information présenté ce mercredi, la députée Céline Calvez (Ensemble pour la République) juge nécessaire d'encadrer l'usage de l'intelligence artificielle générative dans le secteur culturel. Au terme d'une mission d'information de plusieurs mois, présidée par le député Roger Chudeau (Rassemblement national), la rapporteure met en garde contre un risque de "standardisation et de déshumanisation de la création artistique".

L'élue ne dément pas les apports potentiels des technologies d'IA dans le secteur audiovisuel, mais elle insiste sur la nécessité de "préserver la place de l'intervention humaine dans les processus de création", décrivant par le menu les diverses menaces auxquels sont confrontés les acteurs du monde culturel dans un avenir proche : appauvrissement culturel, biais cognitifs du fait de la domination sans partage des modèles d'IA américains, menaces sur l'emploi...

Une "rupture anthropologique"

Selon elle, la plupart des personnes auditionnées n'hésitent pas à qualifier l'essor de l’IA générative comme une "rupture anthropologique", qui introduit une nouveauté radicale dans l’existence humaine. Alors que la plupart des modèles d'IA sont accessibles au plus grand nombre, cette capacité de produire des contenus en masse "risque de provoquer un encombrement des espaces de diffusion, une saturation des plateformes et de tirer les prix vers le bas, entraînant une éviction des œuvres humaines par des contenus artificiels".

L'irruption de l’IA générative peut être comparée aux grandes blessures narcissiques de l’humanité que sont la révolution copernicienne, la révolution darwinienne et la révolution psychanalytique. Rapport de Céline Calvez

Cette massification des contenus produits intégralement par IA s'observe déjà sur les services numériques. Ainsi, 44 % des morceaux mis en ligne chaque jour sur la plateforme de streaming musical Deezer sont intégralement générés par IA. Sur Youtube et sur les réseaux sociaux, des chaînes ne postent que des vidéos créées par l'IA, parfois de qualité volontairement médiocre, relevant du "slop".

Face à ce constat, Céline Calvez propose une solution à l'échelle de l'Union européenne : obliger les plateformes et les réseaux sociaux à mettre à disposition de leurs utilisateurs une fonction de filtre, aisément accessible, qui mettrait fin à leur exposition à des contenus "entièrement synthétiques". Plus globalement, l'élue juge que les utilisateurs devraient pouvoir personnaliser les algorithmes de recommandation de la plateforme, suivant leurs goûts et leurs curiosité personnels.

En parallèle, la députée juge nécessaire d'aider les acteurs culturels à investir dans des technologies de détection des créations par IA, ces dernières étant de plus en plus difficiles à distinguer des œuvres humaines, selon les secteurs. "Ces contenus, toujours plus nombreux, risquent d’entraîner une indistinction croissante entre les contenus synthétiques et les œuvres humaines, ainsi qu’un progressif désintérêt du public pour ces dernières", juge-t-elle.

Des contenus hybrides

Alors que l'IA générative est diversement utilisée selon les secteurs culturels, Céline Calvez s'est également penchée sur les "œuvres hybrides", créées grâce à un usage partiel des outils d'IA. En la matière, la députée appelle à faire usage de transparence. "C'est une approche équilibrée qui doit primer : l’encadrement de l’usage de l’IA dans les aides à la création et l’encouragement de formes hybrides de création, où la technologie devient un outil au service de la création humaine, sans s’y substituer", écrit-elle.

La rapporteure réfléchit à la mise en place d'une obligation de déclaration des auteurs de leur utilisation de l'IA, avec une perte des droits d'auteurs en cas de déclaration trompeuse. Afin de conserver l'IA comme un outil au service de la création humaine, elle préconise par ailleurs plusieurs pistes, comme l'exclusion pure et simple des contenus entièrement générés par IA du bénéfice des aides à la création et des régimes fiscaux et sociaux dérogatoires.