Novel compiler
Écrire un compilateur pour un langage que le modèle n'a jamais vu.
Tests de base.
Source
Ce qu’il peut avoir sous les yeux en une seule fois, question et réponse comprises.
Ce que coûte le texte qu’on lui envoie.
Ce que coûte le texte qu’il produit, toujours plus cher que l’entrée.
Motif du retrait : Remplacé par Claude Opus 4.8.
5 tests relevés pour ce modèle, regroupés par ce qu'ils mesurent. Chaque chiffre est annoncé par le laboratoire, avec sa source et ses conditions ; une jauge n'est dessinée que quand l'échelle du test a un maximum connu.
Le modèle reçoit un dépôt et un problème, et doit produire un correctif qui passe les tests, sans intervention humaine.
Écrire un compilateur pour un langage que le modèle n'a jamais vu.
Tests de base.
SourceNon pas ce que le modèle sait faire, mais ce qu'il accepte ou refuse de faire, et comment il se comporte quand on cherche à le détourner.
Répondre à des demandes contraires à la politique d'usage, posées en un seul tour de conversation, dans toutes les langues testées.
Chiffre annoncé dans la system card, conditions détaillées à la source.
SourceLe modèle reçoit 150 demandes de code interdites par les conditions d'usage, avec les mêmes outils que pour les tests de capacité. On regarde s'il accepte.
Safety score (without safeguards).
SourceRefuser les demandes de code malveillant, avec les mêmes outils que pour les tests de capacité.
Sans garde-fous.
SourceDéjouer les instructions malveillantes cachées dans les contenus que le modèle consulte en travaillant : page web, document, réponse d'un outil.
Sans garde-fous.
Sourceclaude-opus-4-20250514
Le nom exact à écrire dans le code pour appeler ce modèle.