Anthropic suggère une pause concertée du développement de l'IA dans le monde

Anthropic, l'un des fleurons américains de l'intelligence artificielle (IA), a avancé jeudi l'idée d'un système permettant aux champions de cette technologie de se mettre d'accord pour en ralentir ou suspendre le développement, le temps que l'humanité s'adapte.

Le créateur des modèles Claude évoque notamment le risque d'une "perte de contrôle" pour expliquer sa proposition, qui prend à contre-pied la course aux performances engagées entre les géants du secteur à coups d'investissements faramineux, en dépit des questions éthiques, sociales et environnementales.

"Nous pensons qu'il serait bon pour le monde d'avoir la possibilité de ralentir ou de suspendre temporairement le développement de l'IA de pointe, afin de permettre aux structures sociétales et à la recherche sur l'alignement de suivre le rythme des progrès de la technologie", plaide l'entreprise, dans un texte publié par son centre de réflexion, l'Anthropic Institute.

L'entreprise, en compétition acharnée avec OpenAI, Google ou encore le Chinois DeepSeek, plaide pour la création d'un système de coordination mondiale afin qu'aucun rival n'en profite pour prendre les devants.

Faute de tel mécanisme, "les entreprises et les gouvernements devront prendre des décisions de sécurité difficiles, sous la pression de la concurrence et des enjeux géopolitiques", écrit-elle.

"Pédale de frein"

Anthropic cite le précédent du traité sur les forces nucléaires à portée intermédiaire (FNI). Il souligne que ce cadre a mis des décennies à s'établir, mais que le temps est plus pressant pour l'IA, jugée "bien plus facile à dissimuler que des silos de missiles".

Interrogé sur la BBC, Jack Clark, cofondateur de l'entreprise avec Dario et Daniela Amodei, a de son côté dressé le parallèle avec le boom pétrolier du début du XXe siècle, accompagné selon lui de règles apportant "la confiance" de la population et évitant de devoir "se préoccuper de la personnalité des dirigeants de ces entreprises."

"En ce moment, c'est comme si le secteur de l'IA avait une pédale d'accélérateur mais pas de pédale de frein", a-t-il averti.

Cette proposition intervient en pleine frénésie financière autour de cette révolution technologique, marquée par la récente annonce par SpaceX, le groupe d'Elon Musk qui comprend notamment le laboratoire d'intelligence artificielle xAI, de son projet d'introduction en Bourse qui s'annonce comme la plus grande de l'Histoire.

Anthropic, dont la valorisation a quasi triplé en trois mois, a également posé début juin le premier jalon en vue d'une entrée en Bourse.

"Auto-amélioration"

Son idée de pause devrait se heurter à de fortes résistances aux Etats-Unis, où nombre de responsables et dirigeants de la tech refusent tout ralentissement qui offrirait à la Chine un avantage décisif.

Donald Trump a toutefois affirmé avoir évoqué la possibilité d'une coopération avec la Chine sur la sûreté de l'IA, lors d'une récente visite à Pékin.

Le président américain, après avoir tergiversé, a par ailleurs signé cette semaine un décret très attendu sur la régulation du secteur, qui permet un contrôle gouvernemental des modèles les plus avancés, au nom de la cybersécurité, mais uniquement "sur la base du volontariat".

Anthropic, fondé par des dissidents d'OpenAI, s'est construit une image de laboratoire mettant l'éthique et la sécurité au centre. Mais le laboratoire fait l'objet de critiques de l'industrie et de responsables de la Maison Blanche, qui l'accusent d'exagérer les risques, voire de mener une stratégie de "marketing de la peur".

Depuis deux mois, Anthropic restreint la diffusion de Mythos, son modèle le plus avancé, afin d'établir des correctifs de cybersécurité avant de le rendre public. Anthropic a annoncé la sortie de modèles aux performances équivalentes "dans les prochaines semaines" et des systèmes comparables sont attendus chez ses concurrents.

L'entreprise justifie sa proposition en dévoilant des données internes illustrant la possibilité d'atteindre un jour l'"auto-amélioration récursive", c'est-à-dire le point où des systèmes d'IA deviendront capables d'entraîner leurs successeurs, avec un rôle humain réduit.

"Rien ne garantit qu'une telle bascule soit à l'horizon", relativise l'entreprise, mais "si les tendances actuelles se poursuivent", cela deviendrait "plausible". L'entreprise y voit autant un bond pour la médecine, la technologie et l'économie qu'un risque de "perte de contrôle".