L'Allemagne veut criminaliser les "deepfakes" à caractère sexuel

Le gouvernement allemand veut criminaliser la création et la diffusion d'images et vidéos à caractère sexuel générées par intelligence artificielle ("deepfakes") et contraindre les plateformes à agir, en pleine offensive européenne sur la question.

En Allemagne, ce sujet a été mis à la une par l'actrice et animatrice de télévision Collien Fernandes, qui a accusé publiquement jeudi son ex-mari Christian Ulmen, acteur lui aussi, d'avoir diffusé sur internet de fausses vidéos d'elle à caractère pornographique.

De tels actes seront à l'avenir criminalisés par une loi sur les violences numériques, qui sera présentée "dans un délai très court", a déclaré Eike Hosemann, porte-parole du ministère de la Justice, en conférence de presse régulière vendredi.

"Le droit pénal n’est pas à la hauteur de ce qu’il devrait être, en particulier lorsqu’il s’agit de deepfakes, mais aussi d’autres sujets", a-t-il ajouté.

Au-delà d'images pornographiques, la ministre de la Justice Stefanie Hubig souhaite viser l'ensemble des faux contenus "qui rabaissent les personnes".

Les réseaux sociaux sont de plus en plus inondés par des vidéos hyperréalistes truquées de personnalités politiques et de célébrités.

Mercredi, les eurodéputés ont adopté en commission un texte pour bannir les services d'intelligence artificielle permettant de dénuder des personnes sans leur consentement.

Depuis quelques mois, l'indignation grandit contre le réseau social X du milliardaire Elon Musk et contre son outil Grok, qui permet aux utilisateurs de déshabiller des personnes à partir d'images. Une enquête européenne a été ouverte.

Mme Hubig a souligné la responsabilité des plateformes américaines et la nécessité de les réguler, un sujet épineux entre les États-Unis et l'Union européenne depuis le retour de Donald Trump à la Maison Blanche.

"Les exploitants gagnent beaucoup d'argent avec leurs plateformes, il va de soi qu'eux aussi doivent respecter le droit et la loi. Nous devons fixer des limites", a affirmé la ministre au magazine Spiegel.

C'est un "grave problème" que les plateformes, déjà tenues de supprimer de tels contenus en vertu du droit européen, "ne remplissent pas toujours" leurs obligations, a abondé M. Hosemann.

La ministre social-démocrate a en outre déclaré ne faire "aucune différence entre la violence dans la vie réelle et la violence numérique".

Avec la nouvelle législation, elle veut aussi sanctionner le "voyeurisme numérique", soit les enregistrements "à caractère sexuel" dans l'espace public sans consentement.

La protection des victimes et le blocage des comptes problématiques sont également au cœur de la future loi.