Anthropic ouvre davantage ses processus de développement à des évaluateurs extérieurs. L'entreprise a annoncé vendredi un partenariat avec Accenture et la société britannique Faculty afin que leurs spécialistes interviennent au sein même des équipes chargées de concevoir Claude. Leur mission doit couvrir les tests de robustesse, la recherche de comportements indésirables, l'alignement et l'efficacité des protections.

Le modèle diffère d'un audit réalisé seulement à la fin d'un projet. Les évaluateurs auront un accès comparable à celui de collaborateurs internes et pourront examiner des systèmes pendant leur conception. Anthropic affirme vouloir identifier plus tôt les risques techniques et transformer plus rapidement les résultats des tests en modifications concrètes. Les missions restent toutefois placées sous le contrôle de l'entreprise, qui conserve la responsabilité finale de la sécurité de ses modèles.

L'accord possède aussi une dimension financière inhabituelle. Anthropic et Accenture disent chacune prévoir au moins un milliard de dollars d'investissement sur cinq ans dans l'initiative, notamment pour développer les capacités d'évaluation et former des équipes. Les partenaires présentent le dispositif comme non exclusif : d'autres laboratoires et organisations pourraient adopter une approche similaire.

Plusieurs limites doivent être gardées en vue. Anthropic indique que les méthodes de travail, les règles d'indépendance et les standards communs ne sont pas encore tous définis. Les évaluateurs sont financés directement par l'entreprise qu'ils examinent, même s'ils appartiennent à des structures distinctes. Le partenariat ne constitue donc pas une certification publique ni un contrôle réglementaire indépendant. Son intérêt devra être jugé sur la transparence des méthodes, la publication des résultats pertinents et la capacité des intervenants à signaler des problèmes sans filtre.

L'annonce intervient alors que les laboratoires d'intelligence artificielle cherchent à démontrer que l'accélération des performances peut s'accompagner de contrôles plus solides. Intégrer des regards extérieurs en amont peut réduire certains angles morts, mais ne remplace ni des évaluations réellement indépendantes ni des obligations communes au secteur.

Le principal changement est organisationnel : la sécurité ne serait plus seulement vérifiée après coup. Reste à voir si cette proximité accrue avec le développement produit des alertes publiques, comparables et suivies d'effets.