Le chef de l'ONU appelle à une gouvernance mondiale "pensée et organisée" de l'IA

Le chef de l'ONU a appelé lundi la communauté internationale à s'unir pour mettre en place une gouvernance mondiale "pensée et organisée" de l'intelligence artificielle afin de ne pas improviser "l'avenir de l'humanité" face à ces technologies.

"Le choix qui s'offre à nous n'est (...) pas entre la confiance aveugle dans l'IA et la peur de celle-ci. Il est entre une gouvernance pensée et organisée, ou une dérive laissée au hasard", a affirmé Antonio Guterres dans un discours à l'ouverture du premier Dialogue mondial sur la gouvernance de l'IA à Genève.

Ce nouveau forum intergouvernemental coordonné par les Nations unies vise à permettre à tous les Etats membres et à la société civile de coordonner l'encadrement du développement et de l'utilisation de l'IA.

La patron de l'ONU a averti que ces systèmes, désormais capables d'écrire du code, d'agir en ligne et de prendre des décisions avec de moins en moins de supervision humaine, évoluent "à une vitesse effrénée", plus vite que les institutions chargées de les contrôler.

"Nos institutions ont été conçues pour encadrer des machines qui exécutent des ordres. Elles ne sont pas prêtes à gouverner des machines qui prennent des décisions. Et certaines limites, une fois franchies, ne peuvent plus être rétablies", a-t-il expliqué.

Trois risques majeurs se présentent aujourd'hui selon lui : la rapidité du développement de l'IA, la concentration des capacités entre les mains d'un petit nombre d'entreprises et de pays, et la menace que représentent les contenus générés par l'IA pour l'intégrité de l'information et la confiance dans les faits.

"La question est de savoir si nous allons façonner ensemble cette transformation, ou la laisser nous façonner", a-t-il interpellé face aux représentants de gouvernements, acteurs du secteur privé ou des milieux universitaires réunis pendant deux jours à Genève.

"Fracture de l'IA"

Tout en saluant le potentiel de ces technologies pour accélérer le développement, améliorer les soins de santé ou l'accès à l'éducation, M. Guterres a plaidé pour une gouvernance reposant sur quatre priorités : la sécurité, le respect des droits humains et le renforcement des capacités des pays en développement et la transparence.

Il a notamment proposé de soumettre prochainement aux Etats un Engagement pour la sécurité des enfants face à l'intelligence artificielle, visant à imposer des tests de sécurité avant tout déploiement d'une IA accessible aux enfants, interdire la génération d'images sexuelles d'enfants par ces systèmes et garantir qu'un enfant en situation de détresse soit orienté vers une aide humaine.

Le secrétaire général de l'ONU a également annoncé qu'il soumettrait prochainement à l'Assemblée générale des recommandations en faveur d'un Fonds mondial pour l'IA destiné à renforcer les capacités des pays en développement.

Interrogée par la presse, la présidente de l'Assemblée générale de l'ONU Annalena Baerbock n'a pu préciser les modalités ni la dotation d'un tel fonds.

"Dans un monde où l'on parle de milliards et de milliers de milliards, l'argent n'est pas vraiment la question", a-t-elle déclaré, ajoutant que "le principal défi est de faire en sorte qu'il soit dépensé au bénéfice de tous".

"Moralement répugnant"

En echo à son discours du 23 juin à la London Climate Action Week, M. Guterres a aussi appelé les grandes entreprises du secteur à publier l'empreinte environnementale complète de leurs systèmes et à alimenter tous leurs centres de données avec des énergies renouvelables d'ici 2030.

Il a aussi insisté sur le péril de l'usage militaire de l'IA, en particulier le recours aux systèmes d'armes létales autonomes.

"Des machines qui sélectionnent leur cible, l'attaquent et ôtent la vie sans contrôle ni jugement humains, c'est moralement répugnant. C'est politiquement inacceptable. Et cela doit être interdit par le droit international", a-t-il ajouté, exhortant les États à agir.

Le monde abrite probablement selon lui "la dernière génération capable de définir les conditions de la coexistence entre l'humanité et les machines". Gouvernements, entreprises et scientifiques doivent agir rapidement afin que l'IA soit "plus sûre, plus équitable, plus accessible et plus éthique".

Tenu lundi et mardi, le Dialogue mondial sur la gouvernance de l'IA de débouchera sur aucune décision concrète, mais la coprésidente de la réunion Egriselda Lopez a déclaré aux journalistes que celle-ci permettrait de jeter les "bases" du processus en vue d'une seconde édition prévue à New York l'an prochain.