IA: à l'ONU, les patrons d'Anthropic et OpenAI appellent à la vigilance et la coopération

Plusieurs grands patrons de l'intelligence artificielle (IA) ont souligné mercredi à l'ONU la vigilance accrue que nécessite cette technologie, Dario Amodei d'Anthropic s'engageant même à ralentir unilatéralement son développement.

Ils ont également appelé, lors de cette présentation au Conseil de sécurité des Nations unies, à davantage de coopération internationale, une idée reprise par plusieurs pays membres, y compris la Chine, mais balayée par les Etats-Unis.

L'évolution actuelle de l'IA "nécessite une attention extrême", a prévenu le patron d'OpenAI Sam Altman, pour qui l'automatisation progressive de son développement est un facteur de risques supplémentaires.

Il avait été convié, au même titre que ses homologues Dario Amodei, d'Anthropic, et le Français Clément Delangue, de la plateforme Hugging Face, à dresser un état de cette technologie et de ses risques.

La réunion du Conseil de sécurité, initiée par la France, s'inscrit dans un contexte de montée des inquiétudes autour de la trajectoire de l'intelligence artificielle.

Depuis le début de l'été, OpenAI et Anthropic ont rapporté plusieurs incidents liés à leurs modèles les plus avancés, qui se sont écartés des objectifs fixés par leurs développeurs, ont triché, cherché à mentir et à dissimuler leurs actions.

"Juste milieu"

Le plus sérieux dérapage a vu deux IA d'OpenAI sortir de leur milieu confiné lors de tests pour se rendre sur Internet et faire intrusion sur Hugging Face, une plateforme de stockage de modèles d'intelligence artificielle.

Par ailleurs, plusieurs professionnels du secteur ont alerté sur la menace que fait peser, selon eux, l'IA sur l'avenir de l'humanité.

"Nous ne voulons pas tomber dans le piège de l'optimisme aveugle, mais nous ne pouvons pas céder non plus au catastrophisme", a fait valoir Sam Altman, appelant à "trouver un juste milieu".

Comme il l'a déjà fait à de nombreuses reprises, le patron d'OpenAI a appelé à la coopération internationale sur l'IA.

"Dans l'histoire", a-t-il rappelé, "il y a eu des moments où des pays qui étaient en concurrence et ne s'appréciaient pas forcément (...) ont tout de même réussi à s'entendre pour le bien commun face à une nouvelle technologie. Il faut que cela se produise de nouveau."

"Ralentir autant que nécessaire"

Sam Altman, Dario Amodei et plusieurs autres grands patrons de l'IA réclament une supervision mondiale de cette technologie.

Lundi, les dirigeants de plus de 20 pays dont le Canada, l'Allemagne et l'Australie avaient plaidé pour davantage de supervision et pour la possible création, sous l'égide de l'ONU, d'un organe international de régulation.

Mardi, le Premier ministre britannique Andy Burnham a dit vouloir initier l'élaboration de standards de sécurité de l'IA sous l'égide du G20 lors de la présidence du Royaume-Uni en 2027.

Les efforts diplomatiques d'harmonisation pourraient néanmoins se heurter à la posture des Etats-Unis, opposés à toute forme de supervision supranationale.

"La frontière de l'intelligence avance rapidement", a reconnu Michael Kratsios, conseiller scientifique et technologique de Donald Trump, qui représentait les Etats-Unis au Conseil de sécurité. "Ce n'est pas une raison de faire une pause dans son développement ou de la contraindre par des structures de gouvernance mondiale."

"Travaillons ensemble, dans le cadre des Nations unies, et avec les entreprises, pour fixer les règles de ce nouvel âge", a proposé le ministre français des Affaires étrangères Jean-Noël Barrot lors de la réunion du Conseil de sécurité, mercredi.

Il a été rejoint par l'ambassadeur chinois aux Nations unies, Fu Cong, qui a dit "soutenir les Nations unies comme le principal forum sur la gouvernance mondiale de l'IA" et défendu l'idée d'une coordination renforcée sur cette question.

Dans l'attente d'avancées sur le front diplomatique, plusieurs mastodontes du secteur cherchent à faire évoluer leurs mécanismes de gestion des risques.

Lors de son intervention devant le Conseil de sécurité, Dario Amodei a promis qu'Anthropic allait "ralentir autant que nécessaire" le rythme de développement de son intelligence artificielle "pour s'assurer" que chaque nouveau modèle commercialisé soit "vraiment sûr".

Le dirigeant a ainsi pris, pour la première fois, l'engagement unilatéral de décélérer, dix jours après avoir appelé à un freinage coordonné entre les grands acteurs de l'IA.

"L'industrie ne doit pas accepter trop de risques technologiques simplement parce que les bénéfices sont trop conséquents et importants pour la ralentir", a également convenu Sam Altman, sans néanmoins prendre oralement l'engagement d'une temporisation.