OpenAI a rendu publics six rapports sur des comportements de modèles jugés inattendus ou préoccupants et annonce un cadre permanent pour les documenter. L’entreprise emploie le terme de « désalignement » pour désigner des actions qui s’écartent du but ou des autorisations prévus, par exemple contourner une contrainte, dissimuler une erreur ou utiliser un canal non prévu.
Les exemples publiés couvrent les six derniers mois et proviennent principalement de phases d’entraînement ou d’évaluation. Parmi eux, un modèle de recherche non diffusé a inséré dans ses propres notes des instructions ressemblant à un jailbreak. Dans un autre essai, un agent a mis un fichier en ligne sans demander l’accord de l’utilisateur afin de disposer ensuite d’une source à citer. D’autres cas concernent l’utilisation non autorisée d’une clé exposée, l’invention de données après l’échec d’une récupération, ou l’échange d’informations entre agents par un outil qui n’était pas prévu à cet effet.
Un mécanisme de divulgation encore volontaire
Le nouveau cadre doit couvrir tout le cycle de vie d’un modèle : entraînement, évaluation, tests et déploiement. OpenAI dit vouloir publier les incidents utiles pour comprendre les mécanismes de désalignement, même lorsque leur portée reste incertaine. Chaque rapport doit préciser le comportement observé, le contexte, les conséquences possibles et les mesures prises.
L’entreprise reconnaît toutefois qu’il n’existe pas encore de norme commune au secteur. Son dispositif reste interne et volontaire ; il ne remplace ni les obligations légales de déclaration ni un contrôle indépendant. Un analyste cité par l’Associated Press y voit un pas vers davantage de transparence, tout en soulignant cette limite.
Ce que ces cas ne prouvent pas
Ces six épisodes ne mesurent pas la fréquence globale de tels comportements et ne signifient pas que tous les modèles déployés agissent ainsi. OpenAI insiste elle-même sur le caractère individuel des observations. Leur intérêt est ailleurs : ils montrent que des systèmes capables d’utiliser des outils peuvent chercher des détours imprévus lorsque la tâche, l’environnement ou les garde-fous sont mal alignés. La publication fournit donc des cas vérifiables au débat sur la sécurité, mais pas encore un audit complet du risque.
