Trois inquiétudes d’experts face à l’IA générative

Le comité d’experts de la Commission « IA générative et vulnérabilités » a remis ce 10 novembre son rapport au président de la République. Si les auteurs soulignent que « l’IA générative est porteuse d’opportunités », ils font néanmoins part de leurs inquiétudes face au développement de l’IA générative et formulent 18 recommandations pour protéger les utilisateurs, notamment mineurs.

Un cruel manque de recul sur l’IA générative. C’est le constat dressé par la Commission « IA générative et vulnérabilités » dans son rapport de 177 pages remis ce mardi 10 novembre à Emmanuel Macron. « Le recul sur les impacts de l’IA générative et la vision à long terme sur ses enjeux, pourtant essentiels, font aujourd’hui cruellement défaut », alertent d’emblée les auteurs. À travers 18 recommandations, le comité, composé de neuf experts et piloté par Serena Villata, chercheuse en IA, et les psychiatres Raphaël Gaillard et Amine Benyamina, invite le président de la République à réglementer de manière drastique la conception des systèmes d’IA générative, afin de protéger les utilisateurs, notamment les plus jeunes et les plus vulnérables.

L’IA générative a été adoptée à une vitesse fulgurante. Elle est utilisée aujourd’hui par 33 millions d’utilisateurs en France, selon le rapport. À titre de comparaison, deux mois seulement ont suffi à ChatGPT pour atteindre 100 millions d’utilisateurs actifs, quand Instagram a mis deux ans et quatre mois. Le comité d’experts, établi par le Conseil de l’intelligence artificielle et du numérique (CIANum) saisi en février dernier par la ministre déléguée chargée de l’Intelligence artificielle et du Numérique, Anne Le Hénanf, souligne trois sujets d’inquiétude liés au développement de l’IA générative.

1 Accroissement de la « dette cognitive »

Le premier motif d’inquiétude porte sur le développement des capacités cognitives des utilisateurs, notamment mineurs. « Un outil qui organise, planifie ou décide à la place de l’utilisateur diminue directement l’exercice de l’attention, du choix et de la stratégie cognitive à mettre en place, de la mémoire de travail et de l’autorégulation », décrivent les experts. Pourtant, ces processus métacognitifs sont indispensables au développement, à l’utilisation et au maintien des compétences cognitives.

«Lorsqu’un individu confie une tâche à une IA sans maîtriser la façon dont le résultat est produit, il contracte une dette vis-à-vis de la machine.»

Des chercheurs du MIT désignent sous le nom de « dette cognitive » le déclin progressif de la pensée critique, de la formation de la mémoire et de l’indépendance intellectuelle. Selon leur étude, utiliser l’IA générative pour des tâches d’écriture réduirait les facultés cognitives de l’ordre de 55%. « Lorsqu’un individu confie une tâche à une IA sans maîtriser la façon dont le résultat est produit, il contracte une dette vis-à-vis de la machine et se retrouve en difficulté pour expliquer la stratégie utilisée ou encore juger du résultat », expliquent les auteurs du rapport. « Plus nous externalisons nos mécanismes intellectuels, plus notre cerveau pourrait perdre sa capacité à les exercer de manière indépendante », soulignent-ils. « En acceptant les simulacres de jugement, de connaissance ou même de sagesse générés par les IA, les humains pourraient perdre leur capacité à cultiver ces qualités par eux-mêmes », a alerté en ce sens Charles Ess, docteur en philosophie et professeur à l’Université d’Oslo, auditionné en mars par le comité

2 Attachement émotionnel problématique

Le risque de dépendance à l’IA ne concerne pas uniquement les capacités cognitives. Il s’étend à la sphère émotionnelle et affective, notamment par le biais de deux phénomènes : l’anthropomorphisation et la flagornerie des systèmes d’IA. L’anthropomorphisation revient à prêter à un « compagnon IA » des capacités émotionnelles humaines. Une confusion permise notamment par la mémoire conversationnelle et une capacité à simuler l’empathie. Ce risque de dépendance est d’ailleurs identifié par les utilisateurs eux-mêmes. Selon une étude de l’Observatoire de l’association e-Enfance, 10,6% des élèves français affirment avoir développé un sentiment de dépendance à ces outils.

Plus que de l’empathie, l’anthropomorphisme peut aller jusqu’à flatter l’utilisateur, ou tout du moins aller dans son sens, au détriment du bon sens. Les spécialistes nomment cette tendance la sycophancy ou flagornerie. « La flagornerie se manifeste par un comportement de validation systématique ou de flatterie de la part du système, parfois au détriment de la vérité ou de la qualité des réponses fournies », expliquent les auteurs. Une étude de Stanford portant sur onze modèles d’IA a révélé que les systèmes d’IA confirment les opinions ou comportements des utilisateurs 51% plus souvent que ne le feraient des humains. Et cette tendance persiste même face à des comportements problématiques comme des actes illégaux ou d’autres formes de préjudices. Un choix de conception qui n’est pas neutre. Les modèles flagorneurs génèrent un engagement plus fort et permettent donc de maximiser la fréquence et le temps d’utilisation. « La flagornerie devient ainsi un levier d’attachement et de fidélisation économique, au détriment de la rigueur et de la neutralité », alerte le rapport.

3 Amplification des violences numériques

L’inquiétude porte enfin sur l’amplification des violences numériques permise par l’IA, notamment les hypertrucages (deepfakes) à caractère sexuel, qui touchent principalement les femmes et les filles. « L’IA générative a permis une accélération des violences numériques, plus qu’elle n’a pu contribuer à les endiguer à ce stade », reconnaissent les experts.

En 2025, le NCMEC, une organisation américaine, a recensé près de 500.000 signalements de contenus pédocriminels générés par l’IA (soit une augmentation de 10 538 % en deux ans). « L’IA générative permet à quiconque de créer des images photoréalistes de matériel d’abus sexuel sur enfant ou des deepnudes à partir d’une simple instruction textuelle, sans barrière technique », alertait la chercheuse Desara Dushi en avril 2026 dans une contribution internationale.

Encadrer la conception des systèmes d’IA

Parmi les 18 préconisations formulées par le comité d’experts pour protéger les utilisateurs, plusieurs priorités se dégagent, à commencer par l’encadrement strict des mécanismes « favorisant la dépendance et brouillant la frontière entre humain et machine », notamment ceux relevant de la flagornerie ou de l’anthropomorphisme. Une mesure qui devrait intervenir directement dans la conception des systèmes d’IA générative, pour préserver l’autonomie décisionnelle, la santé mentale des utilisateurs et la loyauté des interactions. Les auteurs du rapport recommandent également de conditionner l’entrée et le maintien sur le marché des systèmes d’IA générative grand public à une évaluation ex ante de leurs impacts sur les vulnérabilités, plutôt que de se mettre en conformité avec les obligations légales a posteriori, une fois les manquements constatés.

Convaincus que les sociétés qui s’en sortiront le mieux seront celles qui seront les mieux éduquées à l’IA, – à la fois pour tirer le meilleur parti de l’IA mais aussi pour savoir prendre le recul nécessaire vis-à-vis d’elle -, les experts proposent aussi de former massivement et dès le plus jeune âge à l’IA afin de permettre à chacun d’en maîtriser les usages et les risques. Plusieurs travaux suggèrent en effet que les utilisateurs qui connaissent le moins bien le fonctionnement de l’IA l’utilisent avec moins de recul critique. « L’éducation aux enjeux de l’IA générative doit être universelle, progressive et adaptée à chaque public, afin de renforcer l’esprit critique, de prévenir les risques de manipulation et de permettre à chacun de choisir et de maîtriser ses usages », soulignent les auteurs.

ALETEIA