Trois des principaux laboratoires d’intelligence artificielle travaillent à l’idée d’un organisme commun de sécurité. OpenAI, Anthropic et Google étudient un modèle inspiré de la FINRA, l’autorité d’autorégulation du secteur financier américain, afin d’évaluer les systèmes les plus puissants avant leur diffusion, selon des informations publiées le 15 septembre et reprises par Channel NewsAsia à partir de Reuters.
L’idée avait été publiquement défendue en juillet par Demis Hassabis, dirigeant de Google DeepMind. Un tel organisme devrait, selon cette proposition, disposer d’un financement majoritairement industriel, d’experts de haut niveau et de suffisamment de puissance informatique pour conduire des tests à grande échelle. Aucun statut juridique, calendrier ou mécanisme de sanction définitif n’a toutefois été annoncé.
Des standards volontaires, pas un substitut à la loi
OpenAI avait préparé le terrain le 9 septembre en appelant à des normes sectorielles capables de suivre les modèles de frontière, de partager des seuils de sécurité et de mieux signaler les incidents graves. L’entreprise précise que ces règles volontaires devraient compléter, et non remplacer, des obligations fédérales et un contrôle démocratique.
Anthropic défend de son côté des évaluations indépendantes, la publication de rapports de risques et un rôle accru des pouvoirs publics. Sa doctrine de sécurité souligne que la transparence seule ne suffit plus à mesure que les capacités progressent. Cette convergence sur le besoin de tests ne signifie pas pour autant que les entreprises ont déjà arrêté une gouvernance commune.
La question de la confiance
Le projet arrive dans un climat de désaccord sur la vitesse de développement de l’IA. Certains dirigeants demandent de ralentir lorsque les garde-fous ne suivent pas ; d’autres redoutent qu’un frein coordonné ne réduise l’innovation. Une structure financée par l’industrie devra donc prouver son indépendance, publier ses méthodes et expliquer qui peut imposer une correction ou retarder un lancement.
Pour l’instant, l’annonce décrit une coopération en construction. Elle ne garantit ni des audits obligatoires ni un droit de veto sur les modèles. L’enjeu sera de transformer une intention commune en règles mesurables, vérifiables et compatibles avec l’action des autorités publiques.
