Face à une technologie développée par des entreprises et des États en concurrence, le secrétaire général de l’ONU veut déplacer la sécurité de l’intelligence artificielle du terrain des bonnes intentions vers celui de la coordination internationale. Le 16 septembre, à l’approche de l’Assemblée générale, António Guterres a demandé des garde-fous communs afin que les systèmes d’IA restent sûrs, transparents, responsables et centrés sur la dignité humaine.

Son argument est celui d’un problème de coordination : une entreprise qui ralentit seule peut craindre de perdre du terrain, tout comme un pays qui impose des règles plus exigeantes à ses acteurs. Des pauses volontaires et isolées risquent donc de ne pas tenir si les concurrents poursuivent leur course. Guterres place l’IA aux côtés du climat, des inégalités et des conflits parmi les sujets qui dépassent les frontières et nécessitent une réponse collective.

L’appel intervient alors que des dirigeants du secteur expriment des inquiétudes publiques sur le rythme de développement des modèles. L’Associated Press rapporte notamment les propositions de ralentissement formulées par Dario Amodei, patron d’Anthropic. Le secrétaire général ne reprend toutefois pas à son compte un moratoire précis. Il insiste plutôt sur la nécessité d’institutions capables de produire des connaissances partagées et des normes compatibles entre pays.

L’ONU dispose depuis peu d’un Panel scientifique international indépendant sur l’IA, pensé pour éclairer les gouvernements sur les capacités, les risques et les lacunes de la recherche. Cet organe peut rapprocher les diagnostics, mais il ne dispose pas d’un pouvoir comparable à celui d’un régulateur national. Les règles contraignantes continueront de dépendre des États, de leurs législations et d’éventuels accords internationaux.

Il faut donc lire cette prise de position pour ce qu’elle est : une impulsion politique, pas un traité déjà conclu. Elle ne règle ni la définition d’un système à haut risque, ni les obligations d’audit, ni les sanctions en cas de manquement. Elle souligne en revanche un point devenu central : si les exigences de sécurité diffèrent trop fortement d’un pays à l’autre, les acteurs peuvent être incités à développer et déployer leurs modèles là où le contrôle est le plus faible.

La prochaine étape sera de transformer ce principe de coopération en mécanismes vérifiables : partage d’incidents, méthodes communes d’évaluation et transparence sur les modèles les plus puissants. Sans cela, l’expression « garde-fous mondiaux » restera une ambition plutôt qu’une protection effective.