Le 15 octobre 2026, Anthropic a expliqué comment elle travaille avec des évaluateurs tiers indépendants pour examiner ses modèles d’IA et ses pratiques de sécurité.

La grande nouveauté : six personnes de METR, un organisme sans but lucratif qui évalue l’IA de pointe, ont maintenant un accès semblable à celui des équipes de risque d’Anthropic, y compris aux outils internes, aux systèmes et aux bureaux. METR publiera ses résultats, et Anthropic ne peut pas s’opposer à leur publication. Elle peut seulement demander de caviarder quelques catégories prédéfinies, comme les données des clients et les détails d’architecture des modèles.

SecureBio examine le chapitre sur les risques chimiques et biologiques du dernier rapport de risques d’Anthropic, qui collabore aussi avec Accenture et Faculty et mène des discussions préliminaires avec Hugging Face et d’autres.

Anthropic compare cette approche à la supervision bancaire, où des examinateurs travaillent au sein des plus grandes banques. De bons évaluateurs ont besoin d’expertise, d’indépendance, d’un vrai accès et de la liberté de publier. Selon Anthropic, toutes les entreprises d’IA de pointe devraient faire de même.

Pourquoi c’est important : la confiance envers l’IA se bâtit avec la transparence et la responsabilité, pas seulement avec de meilleurs modèles.

Lire la mise à jour complète d’Anthropic (en anglais)