L'Inde durcit les règles du recours à l'IA sur les réseaux sociaux

Haro sur les fausses images générées par l'IA. L'Inde vient de donner un sérieux tour de vis à l'utilisation de l'intelligence artificielle sur les réseaux sociaux, ravivant aussitôt les accusations de censure et de remise en cause des libertés numériques.

Destinées à entrer en vigueur le 20 février, dernier jour d'un sommet international qui accueille à New Delhi tout le gratin international du secteur, les nouvelles règles réduisent les délais imposés aux plateformes pour retirer les contenus jugés problématiques.

Drastiquement même, puisque les Instagram, Facebook et autres X n'auront plus que trois heures, contre trente-six auparavant, pour obéir aux injonctions du gouvernement...

Les directives définissent les contenus visés, dits "synthétiques", comme ceux "qui apparaissent réels, perçus comme tels ou considérés comme ne pouvant pas être différenciées d'un être ou d'un événement réels".

Sitôt annoncée par le ministère des Technologies de l'information, la mesure a été étrillée par la Fondation pour un internet libre (IFF) qui a estimé qu'elle allait transformer "les plateformes en censeurs à tir rapide".

ONG et défenseurs de la liberté sur le net ont illico soulevé un lièvre: la plupart des internautes ne sont pas informés des ordres des autorités d'effacer leurs contenus.

Le pays le plus peuplé de la planète compte un milliard d'usagers des réseaux, qui débordent de désinformation. Jusqu'à présent, les règles imposées par le gouvernement visent plus les plateformes que les utilisateurs.

"Censure automatique"

L'an dernier, le gouvernement indien a mis en service le portail en-ligne "Sahyog" - "coopérer" en hindi - destiné à automatiser l'envoi de ses requêtes aux plateformes.

Avec les nouvelles règles, un contenu problématique pourrait disparaître quasi-immédiatement après la notice des autorités "et devenir inaccessible aux utilisateurs (...) dans un délai qui ne permettrait pas le droit de réponse ou de faire appel", avertit le directeur de l'IFF, Apar Gupta.

"Un examen deviendrait structurellement impossible", insiste-t-il, "cela remet en question l'application (des règles renforcées) et rend leur effet très improbable".

"Cela ressemble fort à de la censure automatique", renchérit le défenseur des libertés Nikhil Pahwa.

En plus de la compression des délais de suppression, le nouveau règlement impose aux plateformes d'identifier par un label unique les contenus générés ou traités par IA de façon permanente et impossible à supprimer.

"Ces identifiants uniques sont impossibles à faire respecter", tranche Nikhil Pahwa, "il est également impossible de les accoler à tous les contenus".

Apar Gupta partage son doute sur l'efficacité de ces labels. "Les métadonnées sont régulièrement effacées dès lors qu'un contenu est édité, compressé, partagé ou s'il fait l'objet d'une capture d'écran", fait-il valoir.

"De bas en haut"

"Toutes ces nouvelles obligations pourraient encourager l'autosurveillance des contenus", mettent en garde l'IFF et le Centre pour l'étude de la haine organisée (CSOH), "une forme de censure collatérale des plateformes tentées de rester prudentes pour ne pas engager leur responsabilité".

Le nouveau régime fonctionnent de "bas en haut", explique Apar Gupta de l'IFF: "les usagers doivent signaler si leurs contenus sont +synthétiques+ et il revient ensuite aux plateformes de les vérifier et de leur attribuer un label avant leur publication".

Mais les critères d'application restent très larges et donc sujets à interprétations.

"Ainsi, la satire, la parodie et le commentaire politique qui utilisent des images +synthétiques+ peuvent très bien entrer dans le champ de la loi", avertit Apar Gupta.

Dans le même temps, l'accès généralisé aux outils de l'IA suscite "une nouvelle vague de haine en ligne avec des images, vidéos et caricatures très réalistes qui renforcent les stéréotypes nocifs", déplore le CSOH.

Dernier exemple en date, le scandale Grok, du nom de l'assistant d'intelligence artificielle de X qui a permis la diffusion d'images de personnes dénudées".

"Il fallait que le gouvernement réagisse car les plateformes ne se comportent pas de façon responsable", résume le défenseur des libertés Nikhil Pahwa. "Mais les nouvelles règles n'ont été réfléchies".