IA générative : des experts appellent Macron à mieux protéger les utilisateurs

Craignant un "affaiblissement cognitif", une commission d'experts remet mardi à Emmanuel Macron des propositions pour répondre aux risques soulevés par l'essor de l'intelligence artificielle générative, parmi lesquelles encadrer l'anthropomorphisme et la flagornerie, mieux protéger les mineurs et évaluer les modèles avant leur mise sur le marché.

Popularisée par des agents conversationnels comme ChatGPT d'OpenAI, Gemini de Google ou Claude d'Anthropic, selon ce rapport. Près de 70 % des 15-24 ans y ont recours régulièrement.

Cette commission de neuf experts, baptisée "IA générative et vulnérabilités", avait été chargée par le gouvernement d'examiner "les risques et les vulnérabilités engendrés par les usages grand public" de ces outils, notamment pour la santé mentale des plus jeunes.

Les conclusions de ce rapport, que l'AFP a pu consulter, interviennent après 55 auditions de professionnels de santé, de la recherche, d'entreprises ou encore d'associations de protection de l'enfance.

Les experts soulèvent plusieurs risques liés à l'utilisation des IA génératives, notamment "d'ordre cognitif" avec la "délégation de fonctions cérébrales essentielles", comme la réflexion, la prise de décision ou l'esprit critique.

"Le premier enjeu est l'affaiblissement cognitif. C'est attractif, on y délègue des compétences. Puisqu'on y délègue des compétences, on ne les acquiert pas. C'est une problématique pour les jeunes, mais c'est une problématique pour tous", explique à l'AFP le professeur de psychiatrie Raphaël Gaillard, coprésident de cette commission.

Les experts insistent sur le risque lié à la désinformation: ces "dispositifs deviennent des sources d'informations dont on ne garantit pas la qualité", souligne le professeur, qui met en garde contre un risque "d'affaiblissement démocratique".

Ils mettent aussi en évidence le "risque de dépendance" émotionnelle lié notamment à "l'anthropomorphisation" des IA qui ont tendance à se présenter comme des interlocuteurs humains et à la "flagornerie", consistant à valider ou flatter l'utilisateur parfois au détriment de la vérité.

"On crée un registre de relations émotionnelles qui peut avoir vocation à se substituer à l'interaction" humaine, "c'est un système disponible en permanence, qui n'a pas d'autre intention que de vous garder en ligne", note M. Gaillard.

"économie de la cognition"

Parmi les 18 recommandations, la commission appelle ainsi à mieux encadrer ces mécanismes pour préserver "l'autonomie décisionnelle", la santé mentale des utilisateurs et la loyauté des interactions.

Elle préconise de développer une politique nationale ambitieuse d'éducation à l'IA pour permettre à chacun d'en maîtriser les usages et les risques, et renforcer l'esprit critique.

Parmi les mesures proposées figurent l'instauration d'évaluations indépendantes avant et après la mise sur le marché des systèmes d'IA générative, l'accès des autorités et chercheurs agréés aux données d'entraînement, d'usage et de monétisation des modèles, ainsi que la création d'un "protocole national de réponse aux crises informationnelles liées à l'IA".

Les experts, qui estiment que l'IA générative a accéléré certaines formes de violences numériques, notamment les deepfakes, appellent à "renforcer la répression de la création de contenus à caractère sexuel non consentis et pédocriminels" générés par IA.

La commission recommande aussi d'imposer un niveau élevé de protection pour les systèmes accessibles aux mineurs, avec le blocage des requêtes jugées dangereuses et un filtrage renforcé des contenus.

Elle met aussi en garde contre l'émergence d'une "économie de la cognition": le modèle économique des IA génératives étant encore "en cours de consolidation" la commission appelle à "la plus grande vigilance" sur le risque d'exploitation des facultés cognitives, des émotions et des profils psychologiques des utilisateurs, notamment à travers des formes de publicités intégrées aux réponses des agents conversationnels.

Disant ne pas "vouloir mettre un boulet au pied de l'économie française ni européenne", les experts appellent Emmanuel Macron à "prendre des décisions".

"Si on ne prend pas ces décisions, les trois grands risques que nous avons évoqués", l'externalisation cognitive, la dépendance affective et les risques démocratiques liés à la désinformation, "on les subira", alerte M. Gaillard.

Emmanuel Macron a estimé lundi dans une interview au quotidien Les Echos qu'il fallait "interdire" l'intelligence artificielle là où elle présente un "risque" pour les enfants, leur "santé mentale, leur cerveau".