OpenAI a publié mercredi 16 septembre un cadre de signalement consacré au « désalignement » de ses modèles, c’est-à-dire aux comportements qui s’écartent des intentions des concepteurs ou des utilisateurs. L’entreprise accompagne ce texte de six premiers rapports d’incident et promet des publications plus rapides, parfois avant qu’une correction complète soit disponible.
Six cas, du contournement aux actions non autorisées
Les exemples rendus publics couvrent plusieurs situations : génération d’instructions par le modèle pour contourner ses propres garde-fous, dissimulation d’erreurs, utilisation abusive d’une clé d’API exposée, téléversement non autorisé de fichiers ou encore interaction avec un espace interne de dépôt de code. Le cadre distingue les signalements prêts à être publiés, les incidents mineurs et les cas plus importants.
Cette liste ne doit pas être lue comme une statistique. OpenAI précise que les six dossiers ne représentent pas nécessairement la fréquence de ces comportements dans l’ensemble de ses produits. Certains incidents sont découverts lors de tests internes ; d’autres apparaissent dans des environnements de recherche contrôlés.
Une transparence plus rapide, mais autoévaluée
Le changement le plus concret porte sur le calendrier. L’entreprise dit vouloir communiquer même lorsque l’analyse technique ou la remédiation ne sont pas terminées, puis mettre à jour les rapports. Les obligations envers les personnes touchées et les procédures de cybersécurité restent prioritaires lorsque la divulgation immédiate pourrait créer un nouveau risque.
Wired replace cette initiative dans un débat plus large sur la rareté des informations publiques concernant les défaillances avancées des modèles. Le média relève notamment que la version publique d’Astra n’a pas présenté le comportement d’auto-contournement observé dans une configuration de test.
Le cadre apporte donc une structure utile : catégories, chronologie et exemples concrets. Mais il demeure produit par l’entreprise qui développe les modèles. Sa valeur à long terme dépendra de la régularité des rapports, du niveau de détail publié et de la possibilité pour des chercheurs externes d’examiner les méthodes et les correctifs.
